生成は簡単、信用が難しい——AIに仕事を任せて残った本当の課題

AIに何かを作らせた経験は、もう珍しくなくなった。文章、コード、画像、企画書。「生成AIを使えるか」はスキルの分水嶺ではなくなりつつある。1年以上AIに月3万円以上を払い、開発でも家庭でもAIを使い続けてきた私の実感では、本当の分水嶺は別の場所にある。

生成は簡単だ。信用が難しい。

作った量より、確かめた量

私はAIで子ども向けの学習ドリルを生成するシステムを家庭で運用している。作り始めたときの想像は「問題を自動で作ってくれる便利なツール」だった。実際に出来上がったものを眺めると、コードの半分以上は問題を作る部分ではなく、作られた問題を信用してよいか検査する部分でできている。

理由は単純で、AIは滑らかに間違えるからだ。もっともらしい体裁で、答えが問題文に漏れていたり、選択肢が構造的に選べなかったりする。しかも間違いは検査をすり抜ける形で現れる。形式チェックを通り、型チェックを通り、それでも「データとして正しいが、人間には使えない」ものが残る。

これはドリルに限った話ではない。AIが書いたコードも、AIが要約した記事も、AIが出した数字も、同じ性質を持つ。生成物の品質は、プロンプトの品質では保証されない。 検証だけが保証する。

ここで嫌な非対称性がある。生成のコストはAIの進化とともに下がり続けるが、検証のコストは人間の側に残る。つまりAIが強くなるほど、世の中には「検証されていない生成物」が増える。それを見抜く目を持つ人と持たない人の差は、生成能力の差よりずっと大きな差になっていく。

検証の目は何でできているか。対象についての知識と、「AIは間違えるものだ」という前提と、確かめる根気だ。基礎学力の話と見立ての話に、ここで合流する。子どもに身につけさせたいのは、AIの出力を鵜呑みにする習慣ではなく、「これは本当か？」と一往復確かめる習慣だ。

大げさな仕組みは要らない。AIの答えに対して「出典は？」と聞き返す。数字が出てきたら桁だけ暗算で確かめる。それを子どもの前でやってみせる。検証は教えられるスキルというより、うつる習慣だと私は思っている。

自動化された検証の仕組みに興味があれば、AIドリルキットで実物を公開していく。4層の検査を通してなお漏れた失敗の記録ごと、だ。失敗の記録こそ、この領域でいちばん価値のある部分だから。