こんにちは mtj です。

AIの活用についてですが
現在AIは社会の色々な部分に活用されています

普通の人が目にする機会があるとすればエンターテイメント向けが多いでしょうか
最近ではChatGPT等のAIチャットが流行っているかと思います。

AIは正確性があまり必要の無いところで使うとよく言われます。
正確性の高い所で使用する場合は使用者に知識が求められます

プログラムの生成もAIで生成できますが、それの成否、バグの有無、コード使用箇所のリソース等を元に
正しいか判断し使用する必要があります。
上記の通り判断する必要があるのでAIが生成するコードを理解、改造できるぐらいの知識は当たり前に必要になると思います。

仮にそういった判断に疎い人が作成し何かが発生した場合は何も対処ができない、改造、改善もできない可能性がでるかもしれません。
AI絵の問題でもそうですが　そういった専門家以外の人、もしくは疎い人がAIを活用し始めるのがちょっと怖くもありますね