2026.09.07
弁護士 坂田宗彦
AIをどこまで信じられますか
生成AI(人工知能)が手軽に利用できる時代になりました。仕事に活用するだけでなく、生活や趣味に関してもとても便利なツールです。利用された方は実感されていると思いますが、利用者に寄り添った回答の仕方がAIの特徴です。怒ったりは決してしない。時には迎合的と思えるほどの回答を寄越します。
AIは、過去の膨大な情報から最適な回答を導き出すようにプログラムされていますから、その回答は極めて正確なはずなのですが、時折、間違った回答をします。最近、AIの本家であるアメリカのロースクール(法律家を養成する法科大学院)で、AIの利用を大幅に制限することが決められたと報道されていました。学生の提出物に実在しない判例や根拠不明な記述が増え、それがAIの利用によるものであることが判明したとのことです。そこで、ロースクールでは、AIの利用を制限して、まずは法的思考力を身につけ、その後にAIの活用を学ぶべきとされています。
私ごとですが、この夏、北アルプスに登山をするのに、熊と遭遇する危険の少ないコースをAIに尋ねたところ、とても親切な回答ぶりで、立山登山を推奨されました。登山者が多いので安全といった理由でしたが、最近、立山の室堂平付近に熊が再々出没し、登山道の一部が閉鎖されたことは登山者によく知られていることです。このようにAIには最近の情報、それも大事な情報が欠落しています。
ちなみに、AI自身にAIの誤解答について質問すると、AIの回答を利用する際には、重要な情報(法律、医療、税金、契約など)は公式な資料でも確認する、日付や数値は最新かどうか確認する、少しでも不自然だと感じたら根拠などを聞き返すことが必要との回答でした。遠慮なく間違いを教えるのがAIを上手に使う一番のコツというのがAIのアドバイスです。
今後、是非はともかくとして、AIはますます高度化していき完全なものに近くなるでしょう。しかし、現時点では、AIの回答には限界があります、とりわけ、重要な事柄であればAIの回答をそのまま信じてしまうのは危険と言わざるを得ません。AIの限界を踏まえ、うまく利用するリテラシーを身につけたいものです。
