中学1年生250人の半数超、理科の課題で同じ間違い…教諭の違和感の正体は生成AIの「誤答」
東京都内の私立中で2月、1年生の半数超が理科の課題に対する解答を間違う事態が起きた。
原因となったのは、生成AI(人工知能)が表示した“誤答”。食品大手「キユーピー」がホームページ(HP)に載せていた記述を基に生成し、生徒たちが書き写していた。男性教諭に記述の誤りを指摘された同社は、誤解を招きかねない表現があったとして修正した。
同じ誤り
<唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする>
2月上旬。都内の私立中で1年生に理科を教える男性教諭(34)は、授業で出した課題の解答をチェックしていて違和感を抱いた。
出した課題は「唾液アミラーゼの働き」を調べること。「でんぷんは胃では消化されない。なぜこんな解答になったのだろう」と疑問に思った。
最初にチェックしたクラスで、多くの生徒がほぼ同じ文言で解答。気になって調べたところ、6クラスで計約250人いる1年生のうち、半数超が同じように間違っていたことが分かった。
生成AI
男性教諭が試しに、インターネットで「唾液アミラーゼの働き」と検索すると、原因はすぐに判明した。検索サイトに搭載された生成AIが生徒の解答と同じ文言を生成し、表示していたからだ。
生徒たちに検索サイトの生成AIを使って書いたか尋ねたところ、各クラスで6~7割の生徒が手を挙げた。ネットの利用は許可していたが、多くの生徒が、生成AIの回答について正確性を確かめずにそのまま書き写し、提出していた。
男性教諭は、教科書や参考書を確認しながら、でんぷんは口と十二指腸で分解されることを説明すると、生徒たちは「胃では消化されないんだ」と納得した様子だったという。
誤解招く
男性教諭は、生成AIがどの情報に基づいて回答を生成したのかも調べた。
出典として挙げられていたのは「キユーピー」のHPだった。「一人何役?唾液の働き」と題した特集ページに、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にします」との記載があった。
男性教諭は2月18日、自身のX(旧ツイッター)で、キユーピーに宛てて投稿し、「もし修正できるならお願いしたく思います」と記した。
キユーピーは翌19日に事態を把握。同社の研究所も含めて担当部署で検討した結果、でんぷんの消化について誤解を招きかねない表現だったと判断した。
同28日、HPの記載から「胃で」を削除し、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、消化されやすい状態にします」と修正した。また、胃で吸収されることを表現したイラストにも変更を加えた。
同社によると、HPの当初の記述は2018年9月からあったといい、同社は「外部に発信している以上、誤解のないように注意していきたい」としている。
妄信は危険
<ちゃんと生成された内容の正誤チェックや文章校正が出来ない限り使うべきではない><AIにまず回答作らせて教科書で調べて修正すると定着率の高い勉強法になると思う>
男性教諭の投稿は、360万回以上閲覧され、中には、そんなコメントも書き込まれた。
男性教諭は「結果的に唾液アミラーゼの働きについて学習の理解が深まった。生成AIは間違った回答を示すこともあり、生徒たちにとっては自分で調べることの大切さを知る良い機会になった」と話す。
医学博士で江田クリニック院長の江田証(あかし)氏(消化器内科)は「でんぷんは胃では消化されず、キユーピーHPの記載は医学的に言えば誤りで、誤解を生じさせる。同社が迅速に修正したのは評価できる」と指摘。「生命や健康に関わる医学的な情報についてAIを妄信することは、現時点では非常に危険。情報の正確性について、ほかの文献に当たるなどの『裏取り』が必要だ」としている。
〔読売新聞オンライン〕
教育に携わっていると、このようなことはたびたび起こります。
不思議な解答をしている生徒が複数人いる。
見逃してしまう先生や、見て見ぬ振りをする先生もいるようですが、子供のためを思えば、原因を探る必要が出てきます。
1人の生徒の答案を複数人が写したことが考えられるわけです。
まず、大前提として、答案を写すことはダメに決まっています。
勉強は自分のためにすることです。
しかし、問題はそれだけではありません。
友達間で、なれ合って写していたのなら問題は複雑ではありません。
原因を探る最大の要因は、そこにイジメが隠れていないかが気になるからです。
いじめられている生徒の答案を、いじめている生徒たちが強引に奪い写す。
それだけで問題ですが、もしその答案が間違えていたら、さらなるイジメが発生していきます。
生徒が複数人、同じ間違え方をした答案を提出してきた。
ただそれだけに感じるかもしれない内容も、教師にしてみれば重要な案件なんです。
それだけに、この先生の熱意は相当なものだと思います。
勝手な想像ですが、おそらく最初は答案をまわし写したことを疑ったかもしれません。
しかし、間違えている生徒の個々の普段の様子などを考えて、ネットの情報にたどり着いたのでしょう。
おそらくは、最初はウィキペディアを疑ったでしょう。
youtubeや教育会社の解説サイトなども調べたのかもしれません。
そこで最終的にたどり着いたのが、生成AIだったのでしょう。
並の先生なら、途中で放棄していた案件だったと思います。
いまは情報があふれかえっている時代です。
しかし、その情報の根拠を尋ねると、「ウィキペディア」や「youtube」「ブログ」と平然と答える時代になってきています。
大学に入れば、ウィキペディアやyoutubeは根拠にならないと厳しく指導されるのですが、それでもそれを根拠にする学生は少なくないようです。
「有名人やインフルエンサーが言っていることだから(だから正しい)」と主張する人は、いい年をした大人でもいるくらいですから問題の根っこは深いです。
聞いた話ですが、大学ではレポートは手書きではなくワードのデータによる提出に変わったようです。
そのデータをソートして、何を参考資料にしたのかが分かるソフトがあるそうです。
「○%類似」などという数値から、そのレポートの評価をするそうですから、ウィキペディアやyoutubeに頼っている学生は一網打尽となります。
そこで記事にも書かれていますが『裏取り』が重要になってくるわけです。
ウィキペディアやyoutube、ブログなどは、専門的に研究をした権威のある人の見解ではないものも多く混ざっています。
きちんと研究を重ねてきていない記述者や発信者が、わずかな情報の聞きかじりからの思い込んで誤った情報を発信するということも少なくありません。
つまり、情報が片寄ったり歪んだりすることも多いので根拠にはならないのです。
『裏取り』は複数の情報を集める。
できる限り、一次資料に当たる。
生成AIが普及するにつれて、教える側の知識もより重要になるでしょうし、教わる側の知識に対する姿勢も問われる時代になってきたのだと痛感する記事でした。