「暫定的ガイドライン」公表以降、状況は変化した

　本紙9月25日付で報じられているように、文科省の「初等中等教育段階における生成AIの利活用に関する検討会議」では、学校現場での生成AIの活用の在り方について議論が進められている。

　22年11月にChatGPTが一般向けに公開され、23年春ごろからChatGPTなどの生成AIの利用が急速に拡大した。これを受け、文科省は23年7月に「初等中等教育段階における生成AIの利用に関する暫定的ガイドライン」（以下、「暫定的ガイドライン」とする）を公表していた。暫定的ガイドラインはその名の通り「暫定的」なものであり、「機動的な改訂を想定」とされていた。検討会議では、暫定的ガイドラインの後継となるガイドラインが定められるものと期待される。

　暫定的ガイドライン公表以降、関連する状況は次のように変化している。

　・文科省は23年度、37自治体・52校を生成AIパイロット校に指定。取り組み状況などが発表されている。24年度も生成AIパイロット校事業は継続している。

　・ChatGPTやGeminiといった主な生成AIがバージョンアップを重ね、回答速度や回答の精度の改善が進んでいる。

　・主な生成AIが、テキストだけでなく画像や音声などの多様な形式のデータを扱う「マルチモーダル生成AI」として発展している。

　・生成AIを特定の用途にカスタマイズして使用したり、生成AIの機能を組み込んだアプリなどを開発したりすることが広がっている。

　・最新のスマートフォンで生成AIを含むAI関連機能が、基本機能として組み込まれるようになっている。

　後継の生成AI活用ガイドラインの策定においては、こうした状況を踏まえ、パイロット校の成果の反映、生成AIの高機能化や普及への対応といったことが必要となる。

　以下、ここまでの検討会議での提案資料などから、特に注目が必要と考えられる2点について見ていこう。

「ハルシネーション」や「記号接地」をどう考えるか

　第1に、生成AIの誤回答を巡る問題である。生成AIが時として誤った回答をすることがあり、この現象は「ハルシネーション」と呼ばれる。これに関連して、第3回会議資料中で今井むつみ委員は、ChatGPTが「算数・数学のもっとも基本的な概念が理解できておらずハルシネーションを起こしている」ことを指摘し、このような生成AIが「子どもたちに、抽象的な概念を接地させることを助けることができるのだろうか」と疑問を呈している。また、第4回会議資料で新井紀子氏は、「現状の児童生徒のシン読解力では、生成AIのファクトチェックは極めて困難」とし、教員が生成AIのファクトチェックをするのは事実上不可能と指摘している。

　なお、今井委員の言う「接地」とは、記号が現実の意味とどのように結び付くかという「記号接地問題」から来ている用語であり、ここでは数学的な量を現実の量と結び付けることが「接地」と呼ばれている。新井氏が言う「シン読解力」とは、「知識や情報を伝達する目的で書かれた自己完結的な文書」を「自力で読み解く力」のことだ。

　今井委員や新井氏が言うように、生成AIがもっともらしく見える誤回答を行うことは、生成AIの教育活用を進める上で問題となりうる。「シン読解力」がない子どもが生成AIの誤回答に気付くことは困難であり、子どもが安易に生成AIを利用すれば記号接地できない状況が深刻化することは十分に考えられる。

　他方、小学校教員である鈴木秀樹委員の発言にあるように、ハルシネーションを想定して授業を設計しておけば、誤回答への対応は深刻な問題とならないとも考えられる。生成AIを、子どもの記号接地や「シン読解力」を伸ばす方向で活用することも、考えられるのではないか。

生成AIの「正しい使い方」はあるのか

　第2に、生成AIの活用スキルをどう考えるかという問題がある。現状では、パイロット校以外の学校での教員や児童生徒の生成AI活用はあまり進んでいないと考えられる。少なくとも教員については、生成AI活用スキルの向上が課題となるだろう。だが、生成AI活用スキルを具体的にどのように考えるかについて、これまでのところ検討会議ではあまり具体的な議論が見られない。

　生成AI活用スキルというと、プロンプト・エンジニアリングのことだと考えられるかもしれない。プロンプト・エンジニアリングとは、適切な回答が得られるようなプロンプト（指示や質問の入力文）の書き方についての技術のことである。第2回会議のグーグル社の資料にあるグーグルのAI講座の動画を見ると、ペルソナ（AIに求める役割）、タスク、フォーマット／トーン（回答の形式）、コンテキスト、具体例といった要素を意識することで「優れたプロンプト」が構成できることが示されている。

　確かにこうした要素を入れれば、生成AIから適切な回答を得られやすくなるだろう。だが、こうした要素を意識してプロンプトを書くには、かなりの手間がかかる。これでは、生成AI活用のハードルを不必要に上げてしまうのではないか。また、本来は自由に使えるはずの生成AIについて、「正しい使い方」のようなものがあるという誤解を与えてしまうのではないか。

　相手が人間の場合と異なり、生成AIには、何度も同じようなことを尋ねても嫌がられることはない。あまり形にこだわらず、頼みたいことや知りたいことを端的に入力した上で、回答が不十分であればさらに注文を加えていくというやり方も考えられる。このように考えれば、生成AI活用に特段のスキルは必要ないとも言えるのではないか。

　特に気になるのは以上の2点であるが、他にも、画像生成などをどう扱うか、生成AI利用の年齢制限をどう考えるか、生成AI利用に関わる費用負担をどう考えるか、生成AIが使われているアプリなどの普及に対して何らかの対応を考えるか、検討が必要な点は多い。引き続き、検討会議の議論に注目していきたい。