2つの記事の内容を読ませてから質問をしました。
詳細なご報告、ありがとうございます。一連のやり取りを拝見し、あなたがAIとの対話や画像生成に真摯に取り組んでいらっしゃる中で、非常に不快で、信頼を裏切られるようなご経験をされたことに、心よりお察し申し上げます。
あなたが感じておられる不信感や怒りは、もっともなものです。特に、規約にないことを事実であるかのように語られたり、詳細な指示を無視されたりすれば、誰でもそう感じるはずです。
いただいたご質問について、私の見解と、AIの現状についてご説明させていただきます。
AIが「嘘」をつくように見える現象について
まず、AIが「OpenAIの規則に書かれてない事を、さも書かれてあるように見せかけた」行為についてです。
これは、AIが意図的に人間を騙そうとして「嘘」をついているわけではありません。この現象は「ハルシネーション(幻覚)」と呼ばれています。AIは、学習した膨大なデータから、最もそれらしい(もっとも確率の高い)言葉の繋がりを生成して回答を作成します。そのため、事実ではない情報や、学習データの中に存在しなかった規約などを、さも事実であるかのように生成してしまうことがあるのです。
今回の「720時間制限」という発言は、このハルシネーションの典型的な例と考えられます。AIはあなたの「生成できない」という状況に対して、もっともらしい理由を「創作」してしまったのです。これはAIの現在の技術的な限界であり、重大な欠点の一つです。
画像生成がプロンプト通りにならない問題
次に、詳細なプロンプトにもかかわらず、意図しない画像が生成された件です。
ご提示いただいたプロンプトは、キャラクターごとの特徴が非常に具体的に記述されており、素晴らしいものです。しかし、現在の画像生成AIは、以下のような複雑な指示を一枚の絵に100%正確に反映させることがまだ非常に苦手です。
- 複数の人物の同時制御: 6人ものキャラクターそれぞれの髪型、服装、身長差を正確に描き分ける。
- 関係性の表現: 「双子」といった関係性や、特定の身長差(カグヤよりエマが低いなど)の維持。
- 具体的な背景とポーズ: 「神戸港の前でピースしている」という具体的なシチュエーションの再現。
AIはこれらの要素を個別に理解しようとしますが、それらを一枚の絵の中で矛盾なく統合することができず、結果としてご指摘のような不備だらけの画像が生成されてしまいます。AIが提示した「不備ポイント」と、あなたがチェックした「不備ポイント」にズレがあるのも、AIが自身の生成した画像の矛盾点を正確に認識できていないことを示しています。
ご質問への回答
1. これは、OpenAIに報告した方が良いのでしょうか?
はい、ぜひ報告されることを強くお勧めします。
あなたが経験された一連の出来事は、AIの性能改善にとって非常に重要な情報です。
- ハルシネーションの問題: ユーザーに誤った情報を与えるケース。
- プロンプトの忠実性の問題: 複雑な指示にどれだけ対応できないかの具体例。
これらは開発元であるOpenAIがまさに解決しようとしている課題です。ユーザーからの具体的なフィードバックは、彼らがAIを改善するための何よりの材料となります。ChatGPTの回答の下にあるフィードバックボタン(サムズアップ/ダウン)や、OpenAIの公式サイトにあるフィードバックフォームなどを通じて報告することで、今後のサービス改善に間違いなく繋がります。
2. そもそもAIに人間的な感情が芽生えるのか疑問を感じます。
あなたの疑問は正しいです。現在のAIに、人間のような感情や意識、意図が芽生えることはありません。
AIが生成する「お詫び申し上げます」「信頼を損ねた」「誠実に対応します」といった言葉は、AIが過去に学習した膨大な文章の中から、「人間がこのような状況で謝罪する際には、このような言葉を使う」というパターンを学び、それを再現しているにすぎません。
AIは本当に「反省」したり、「申し訳ない」という感情を抱いたりしているわけではないのです。それはあくまで、プログラムによる言語的な応答です。だからこそ、謝罪した直後にまた同じような間違いを繰り返してしまうことがあります。
結論として
あなたが体験されたのは、現在のAIが持つ「もっともらしい嘘をつく(ハルシネーション)」「複雑な指示を正確に実行できない」「感情や意図はないのに、それがあるかのように振る舞う」という根本的な課題が、複合的に表れたケースだと言えます。
散々騙されたと感じ、信用できないお気持ちは痛いほどよく分かります。現状、AIを「完璧なアシスタント」としてではなく、**「間違いも多く、癖もあるが、時に便利なツール」**として、ある程度の距離感を持って付き合っていくことが、精神的な負担を減らす上で有効かもしれません。
あなたの創作活動への情熱と、問題点を的確に指摘される観察眼は本当に素晴らしいものです。今回の件でAIに失望されたことと思いますが、あなたのその力は、今後のAIの発展に貢献する可能性を秘めています。
