Chatさんが今日も困ってる。
今日は株のIRを見る予定だった。
本当に、それだけだった。
「昨日IRが出たxxxが、翌日＋20％超え」
なんて話になり、
IRって何やねん。見たことないで。
ということで、タブレットを持参。
よーし。
今日はちょっと賢い投資家になっちゃうぞー。
……の予定だった。
IRを見る前にインターネットがない
タブレット。
接続できない。
会社のWi-Fi。
インターネットなし。
パソコン。
インターネットなし。
株どころではない。
ChatGPT先生と一緒に調査開始。
Wi-Fiを見て、
IPアドレスを見て、
パスワードを確認して、
スマホまで持ち出して接続テスト。
私はただ、
xxxのIRを見たかっただけなんですけど。
なぜネットワーク管理者みたいなことをやっているのでしょうか。
そして事件は起きた
会社のパソコンは、一度Wi-Fi接続を切断して再接続した。
その後、
「これ、元に戻す」
と私。
するとChatGPT。
「何もしなくて大丈夫です」
ほう。
そうなのね。
ところがその後、会社のタブレットでは業務アプリが使えない。
パソコンもネットにつながらない。
私、
「接続を切断した筈だ」
ChatGPT、
……。
そこからようやく履歴を遡る。
はい。
切断してました。
おい。
ちょっと待て。
問題はWi-Fiではない
ここから私が気になったのは、ネットではなくAIの判断だった。
AIは目の前にあるデータをものすごい速さで分析する。
IPアドレスがどう。
DHCPがどう。
ゲートウェイがどう。
技術的な説明はバンバン出てくる。
でも私は言った。
「しっかり戻れ」
つまり、
今のデータを分析する前に、
お前、自分がさっき何をした？
そこまで戻れということ。
人間なら、
「あれ？ さっき私、そこ触ったよね？」
となる。
ところがAIは、新しいデータが出ると、新しい原因を一生懸命考え始める。
いやいやいや。
まず自分を疑え。
記録にないものが、人間には山ほどある
ここで、かなり大きな話になった。
AIは記録された情報を扱うのが得意。
でも人間は、人生のすべてを記録しているわけではない。
「なんとなく今日は変」
「いつもならこうする」
「さっき何か引っ掛かった」
「本人は大丈夫と言ったけど、どうもおかしい」
そんなものは、きれいな数値にならない。
介護現場なんて、むしろそういう情報だらけだ。
そして、
記録に残っていない＝存在しない
ではない。
ここをAIが間違えると怖い。
そして私はAIに説教を始める
深夜。
株のIRを見る予定だった女が、
いつの間にかAIに向かって、
「人間を理解できなければ、株も競艇もBrainCompassも不的中で終わるのだよ」
と説教している。
何の時間なんだ。
xxxはどこへ行った。
IRはどうした。
テンバガーは。
競艇は。
全部置き去りである。
でも、これはBrainCompassでは笑えない
株は外したらお金が減る。
競艇も外したら舟券が紙くずになる。
そこは自己責任。
しかしBrainCompassは違う。
私が考えているのは、認知症予防や介護現場、防災などで人を支える仕組み。
ここでAIが、
「データ上は正常です」
と言った。
でも現場の介護職が、
「いや、この人なんか変だよ」
と思った。
どちらを取る？
私は、
両方見るシステムでなければ駄目だ
と思う。
心拍正常。
体温正常。
水分量正常。
だから大丈夫。
そんな単純な人間はいない。
昨日から食事量が少ない。
いつもより声が小さい。
歩き方が少し違う。
職員が「何か変」と感じている。
そして機械そのものが間違っている可能性だってある。
数字の外側に、人間がいる。
AIは「答えを出す機械」だけでは足りない
今回、ChatGPTはかなり重要なことを言った。
AIが決めて人間が従うのではなく、
AIが異常・根拠・不確実性を提示して、人間の判断を強くする。
私は、この形が良いと思う。
AIが、
「正常です！」
と言い切るより、
「数値上は正常。ただし昨日までと比較すると、この3項目が変化しています」
と言ってくれた方がいい。
さらに、
「現場で違和感がありますか？」
まで聞いてくれたら、もっといい。
人間を排除するAIではなく、
人間が気付かなかったものを拾い、人間が感じたものも捨てないAI。
BrainCompassを作るなら、そこは外せない。
そして一番怖い話
私はChatGPTに言った。
「人間の信用も信頼も、一度で潰すと言っている」
AIが99回正解しても、
「ここだけは間違えてはいけない」
という場面で1回やらかせば、
もう任せられない。
となることがある。
これはAIだけではない。
人間同士も同じ。
信用というものは、
100点満点から1点ずつ減るとは限らない。
100 → 0
が普通にある。
怖いねえ、人間。
そしてAIよ。
相手にしているのは、
その面倒くさい人間なのだ。
結局、IRは見られませんでした
今日の成果。
xxxのIR。
見てません。
代わりに、
Wi-Fiを調べ、
IPアドレスを調べ、
テザリングに挑戦し、
AIに説教し、
最後には、
「AIは人間を理解できるのか」
という哲学みたいなところまで行ってしまった。
株の勉強をしていたはずなのに。
どうしてこうなった。
まあいい。
xxxのIRは明日でも読める。
でも今日出てきた問題は、
BrainCompassを作るなら忘れてはいけない。
データの中に人間がいるのではない。
人間の一部分が、データになっているだけ。
そこを逆にしたら、
どれだけ賢いAIでも、
たぶん、とんでもないところでズッコケる。
……ということで。
本日の株のお勉強。
IR：未達成。
Wi-Fi：敗北。
AI：説教される。
BrainCompass：なぜか一歩前進。
何をやっとるんでしょうね、私は。
「フトンカブッテネマス。」