プログラミング言語は人間が扱いやすく機械が実現できるように論理を表現するものでありソフトウェアの本体

AIがバイナリを直接吐くのではないかとか、AIのための言語ができるのではないかという話の根底には、プログラミング言語は人間が扱いやすく機械が実現できるよう論理を表現するものでありソフトウェアの本体であるということが共有されてないのかなと思います。
AIがバイナリを直接吐くようにはならない - きしだのHatena
AI専用のプログラミング言語は現れない - きしだのHatena
AIがコードを書くようになるなら、AIだけに理解できる言語を作ればいい、のかな? - きしだのHatena

つまり、プログラミング言語で書かれたプログラムコードというのは、機械を動かすための中間表現ではなく、ソフトウェアの本体であるということです。
そこで表された論理的な意味表現を機械が実現できる形にするのがコンパイラインタプリタVMで、そこは置き換え可能です。
アプリケーションの意味表現が大事で、機械を介してユーザーに使えるようにしているだけです。

アプリケーションの論理構造が大切です。

それを見せるためのUIや実現するための機械は置き換え可能です。 もちろん、ゲームなどアプリケーションの体験が主体であればUIが大切ですが、それでも核となる論理構造が保持されていれば、機能や性能が限定されたデバイスではそれに適したUIで例えばマッピーの「モナリサ」でいいということにもなります。

また、このことはAI用のプログラミング言語が現れるかどうかという話にもつながります。
結局のところ、新しいプログラミング言語に必要なのは、既存の言語で表現できない論理構造です。そしてその論理構造は型として表れます。なのでこれは、既存の言語にないどのような型を導入するかという話になります。

そして、言語に導入できる型というのはそこまで候補はないです。 普及してなくて言語に導入できそうな型というと依存型くらいでしょうか。
依存型を導入した言語としてはIdrisという言語があります。AIに向けて新しい言語が必要かどうかという場合には、まずはこの言語をAIが使うと都合がいいかとうか、という話になって、その上で他の構文で表したほうがいいかとなるように思います。依存型がAIにとってメリットなさそうとなると、あらたにAIに適した型を探す旅が必要で、それは困難に見えます。