目にみえる作業を電子化しても使えるシステムにならないので業務やってる人がAI使ってシステム作っても使い物にならないがち

AIでだれでもちょっとしたプログラムを作れるようになっているので、業務をやってる人がシステム開発したけども全然使えない、みたいな話を聞くようになりました。

それで「業務をしっててもシステムは作れないのか」みたいな話が出ますが、システムを作れるほど「業務をしってる」という人はなかなかいなくて、多くは業務の作業を知っているだけです。
自分の担当外はよく知らなかったり、なぜその作業手順になってるか、それを変えるとどういう影響が出るかとかまでは、業務をまわしているだけではわかりにくいと思います。

業務全体のワークフローや状態遷移、データ構造をわかっているわけではないので、目に見える作業のUIを作って電子化、自動化するだけになりがちで、使いやすくならないし、ちょっと正常フローを外れると業務がこなせるようにもならなかったりもします。

あと、いまやってる作業をそのまま電子化すると、非効率だったり不確実な部分もそのままシステムとして保存されたりします。システム化では、あるべき姿の実装も必要です。システムがないときの作業をそのままシステム化しても効率化になりにくい。

システム化には、複数の視点での作業を統合しつつそれでも欠けてる例外事項を掘り起こして、データフローや状態遷移を整理してそれを実現するためのUIを構築するというスキルが必要で、そのスキルを持つのがシステムやさんです。

ということで、要件定義やシステム設計を勉強する必要がありますね。羽生さんの本を読みましょう。
新しい本も出てますが、非エンジニアの場合には、「はじめよう」シリーズが読みやすいと思います。