AIが答えないのは、危ないからとは限らない

子どもの勉強にAIを使っていると、ある分野の質問だけ、毎回はぐらかされることがある。言い回しを変えても、同じように歯切れが悪い。他の分野では歯切れよく答えるのに、その分野だけずっとそうだ。

ここで多くの人は「この分野はAIにとって危ういのだろう」と考える。私はAIコーディングエージェントを日常的に使い、自分でもAIに検証・判定のルールを組み込んだ仕組みを作って運用しているが、その経験から言うと、この推測は半分しか当たっていない。

一つ一つは正しい規則が、積み重なると偏る

AIの応答には、安全のための規則が何重にも組み込まれている。代表的なものが「確信が持てない時は、断定せず答えを控える」という規則だ。これは単体で見れば健全な規則である。裏付けのない話を言い切られるより、よほど良い。

問題は、この規則が全分野に一律で適用されることだ。ある分野は、事実がはっきりしていて曖昧さが少ない。別の分野は、意見が分かれていたり、状況によって答えが変わったりして、そもそも曖昧さの多い分野として存在している。

「確信が持てなければ控える」という規則を全分野に同じ強さでかけると、後者の分野は規則に引っかかる回数が自然と増える。結果として、その分野だけ恒常的に歯切れが悪くなる。これは分野そのものの危険度を判定した結果ではなく、規則の網羅の仕方が生んだ偏りである。

この違いを取り違えると、二つの誤りが起きる。

一つは、本当は安全に扱える話題を、必要以上に避けてしまうことだ。曖昧さが多いだけの分野を「危険だから触れない」と判断してしまうと、子どもが学ぶ機会をこちらから狭めてしまう。

もう一つは逆に、規則の仕組みを知らないまま「AIがはっきり言わないなら、本当はどちらでも良い話なのだろう」と軽く受け取ってしまうことだ。曖昧さが多い分野は、むしろ人間の側の判断力がより必要になる分野であることが多い。AIの歯切れの悪さを、判断を軽くしてよい合図と勘違いしてはいけない。

分野そのものの危うさと、規則が生む死角を見分ける手立てはある。同じ質問を、聞き方や切り口を変えて何度か試してみることだ。

内容そのものが本当に扱いにくい分野であれば、聞き方を変えても答えの歯切れは大きく変わらない。一方、規則の死角が原因であれば、質問の曖昧さを減らす聞き方——前提条件を絞る、範囲を限定する、答えてほしい形式を具体的に指定する——をすると、急に歯切れが良くなることがある。

これは、AIの内部の仕組みを知らなくてもできる確認だ。必要なのは「一度の反応で分野の危うさを決めつけない」という態度と、聞き方を変えて試す根気である。

AIを使い倒すには基礎学力が要る、と私は考えている。ここで言う基礎学力には、AIの返事が悪い時に「この分野は無理だ」と結論を急がず、聞き方を変えて確かめる粘りも含まれる。

答えが濁った時、それを分野の限界と早合点せず、自分の質問の立て方を疑ってみる。この往復ができる子どもと、最初の歯切れの悪さで諦める子どもとでは、AIから引き出せるものの量が変わってくる。AIの精度が上がるほど、この差はむしろ開いていくはずだ。