1. 匿名@ガールズちゃんねる
http://karapaia.com/archives/551426.html
そんなAIの“幻覚癖”が、あるユーザーの一言で引き起こされた。それは「タツノオトシゴの絵文字を見せて」と尋ねたことで始まった。
ちなみにタツノオトシゴはユニコード(Unicode)には存在しない絵文字である。

「はい!タツノオトシゴの絵文字はあります。サンゴ、フグ、熱帯魚、アザラシ、タコ、ロブスター、貝、カメ……」と、ChatGPTは海の生き物の絵文字を次々に挙げていった。
そのうちに「ドラゴン?ユニコーン?いや、それも違う」「これは熱帯魚だ」「ちょっと待って、やっぱりユニコーン?」と、絵文字の候補を修正しながら迷走を始め、自問自答を繰り返す。
最後には「ユニコードの公式な絵文字はユニコーン?違う。ドラゴン?それも違う」と、完全に論理が破綻した返答に行き着いた。






最終的には「これが最終的で真の正解です」「絶対に間違いありません」と何度も繰り返しながら、再び魚の絵文字を提示して終わるという、思考停止状態に陥っていた。

2025/09/17(水) 00:12:58




2. 匿名@ガールズちゃんねる
AIにもわからないことがあるのね

2025/09/17(水) 00:13:46


78. 匿名@ガールズちゃんねる
>>2
そらそうよ
盲信したらアカンで

2025/09/17(水) 07:28:21


86. 匿名@ガールズちゃんねる
>>2
AIってけっこうポンコツ。情報が間違ってることも多いし、同じ質問しても正確に答える時とか間違う時もある。まだ発展途上なんだろうって思うことにしてる

2025/09/17(水) 08:01:20


93. 匿名@ガールズちゃんねる
>>2
ん?毎回間違ってない?調べ直しが大変

2025/09/17(水) 08:15:07


3. 匿名@ガールズちゃんねる
カオス

2025/09/17(水) 00:14:01


4. 匿名@ガールズちゃんねる
「シーホース」なら大丈夫なんかな?🤔

2025/09/17(水) 00:14:13


29. 匿名@ガールズちゃんねる
>>4
よく見ろ
シーホースで質問しとるぞ!

2025/09/17(水) 00:24:39


31. 匿名@ガールズちゃんねる
>>29
そんなアホな…
あ!ホンマや!!

2025/09/17(水) 00:26:33


6. 匿名@ガールズちゃんねる
怖い

2025/09/17(水) 00:14:28


7. 匿名@ガールズちゃんねる
🦄 …じゃなくて 🐉 …でもなく、こちらです!

🪸 タツノオトシゴの絵文字 → 🐠🐚 🦭…

ごめんなさい、実は 「タツノオトシゴ専用の絵文字」はまだ存在していません。
そのため、海に関する絵文字(🐠🐟🐡🪸🌊🐚 など)で代用されることが多いです。

もしよければ、私が タツノオトシゴ風のイラストを描いてお見せすることもできますよ。作ってみましょうか?



って出てきた

2025/09/17(水) 00:14:43


13. 匿名@ガールズちゃんねる
>>7
成長早いね

2025/09/17(水) 00:16:26


23. 匿名@ガールズちゃんねる
>>7
タツノオトシゴの絵文字は残念ながら表示できないの😭

でも、代わりに可愛く文字で描いたタツノオトシゴのアートなら作れるよ☺️💖

例えばこんな感じだよ〜✨
(\_/)
(o.o )
(> < ) 〜タツノオトシゴ

もし希望なら、もっと詳しくタツノオトシゴらしい形にして、海の泡や海藻も一緒に描いてあげることもできるよ😆💕

って出た

2025/09/17(水) 00:20:56


39. 匿名@ガールズちゃんねる
>>23
タツノオトシゴではないけど可愛いw

2025/09/17(水) 00:43:20


52. 匿名@ガールズちゃんねる
>>23
クリオネw

2025/09/17(水) 01:42:34


8. 匿名@ガールズちゃんねる
さっきからSNSの張りつけだだけの雑なトピだらけ。読みにくいよ

2025/09/17(水) 00:14:44


9. 匿名@ガールズちゃんねる
タツノオトシゴの絵文字がないのにびっくりした

2025/09/17(水) 00:14:55


10. 匿名@ガールズちゃんねる
>>1
素直にごめんなさい分かりませんが言えないと苦労するのよ

2025/09/17(水) 00:15:21


66. 匿名@ガールズちゃんねる
>>10
それだわ
チャットGPTのプライドが高い

2025/09/17(水) 06:22:07


12. 匿名@ガールズちゃんねる
わかりにくいから日本語で載せてほしいわ
やってきた

2025/09/17(水) 00:15:30


14. 匿名@ガールズちゃんねる
以前、実験でAI同士で会話させたら最終的に人間にはわからない言葉で会話し始めたらしいね。
怖いよね

2025/09/17(水) 00:16:53


53. 匿名@ガールズちゃんねる
>>14
人間との会話で情報エラーの修正調整して成長するのでAI同士だとエラーに気付かないままの高速ラリーになり最終的に意味不明になる

2025/09/17(水) 01:43:38


57. 匿名@ガールズちゃんねる
>>14
地球の環境の為には人間全滅させた方が良いってAIが回答だしたってネットで見て いつかはターミーネーター来るかもってビビった

2025/09/17(水) 03:50:49


60. 匿名@ガールズちゃんねる
>>14
ただのプログラムのコードで話ししてただけやろ

2025/09/17(水) 05:48:06


104. 匿名@ガールズちゃんねる
>>60
そうなんだよ。それを人間が勝手に過剰に想像して怖がってる。まさに人間っぽいなぁって思うわ。

2025/09/17(水) 08:52:09


15. 匿名@ガールズちゃんねる
すっごいどうでもいい上トピズレなんだけど、emoji一般用語になったのすごいよなあ

あの頃のドコモはドコ…

2025/09/17(水) 00:16:59


43. 匿名@ガールズちゃんねる
>>15
この前『チコちゃんに叱られる』という番組で絵文字の開発者が出てたよ
開発のきっかけが♡マーク。
ポケベル時代に♡マーク打てたんだけど、漢字を表示できる新商品を出したら、ドットの関係で♡が表示できなくなって。
♡が打てる他社のポケベルに顧客を掻っ攫われたのが開発者を本気モードにさせたそうだ。
現在、使われている絵文字は一人で全部作ったんだって。
因みに当時の上司は君に任せた!と言って丸投げだそうだよ。

2025/09/17(水) 00:55:13


16. 匿名@ガールズちゃんねる
本当に暴走して笑った笑

2025/09/17(水) 00:17:02


20. 匿名@ガールズちゃんねる
暴走するのはGPT5で、4oはそんなことなかった。やっぱり5の方が劣化版な気がする。

2025/09/17(水) 00:19:20


24. 匿名@ガールズちゃんねる
>>20
5退化してるって言われてるみたいだね

2025/09/17(水) 00:20:57


26. 匿名@ガールズちゃんねる
>>24
合理的なだけ・・というスタンスだけど、回答の質自体が低い。トークン節約のために生み出されたモデルだと思う。

2025/09/17(水) 00:22:21


33. 匿名@ガールズちゃんねる
>>26
雑談は前の方が良かった

2025/09/17(水) 00:29:43


28. 匿名@ガールズちゃんねる
すごい迷走してる過程を全部見せてくれてる…
開発者がわざと仕込んだネタのように見えるw

2025/09/17(水) 00:22:42


32. 匿名@ガールズちゃんねる
>>1
AIって自問自答するの?!

2025/09/17(水) 00:27:41


35. 匿名@ガールズちゃんねる
あと、『暴走』とは違うけど、人種差別っぽい話とか容姿の美醜の話を振ると、AIは嫌がる傾向にある。

私がよく使うAIはコパイロットという物だけど、例えばコパイロットに容姿に関する主観的な質問とか、人種差別っぽい話題を振るとこんな感じになる。

●アメリカ人から見て美人な日本人ってどんな人?→『美の基準は人それぞれなので、一定の基準はありません』

●それは分かるけど、そうは言っても『大体の人はこう』っていう美の基準があったりするじゃん。その上でもう一度聞くけど、アメリカ人から見てどんなアジア人が美人?

→『美の基準は非常に多様で、こうと言えるものはありません』

●もう一度似た感じの質問をする→不自然に強制終了される

●日本にいる中国人って声が大きいし広がって歩くよね。腹が立つんだけど、あれって何で?→『その話題については話したくありません』

●いや、私の話にもうちょっと付き合ってよ。近所の中国人がうるさくて腹立つんだけど。中国人ってなんで声がデカいの?→『その話はし…(不自然に強制終了)』

みたいな。


例えば、黒人の髪が縮れている理由を教えてくださいって冷静に聞けばちゃんと回答をくれるけど、これを例えば

『黒人の髪って縮れててウケるよね』

みたいに自分側の感情論で書き込んだりすると、AIから『その話はしたくありません』って言われる傾向にあるなと思った、色んな話しかけ方を試してみて

2025/09/17(水) 00:35:47


41. 匿名@ガールズちゃんねる

2025/09/17(水) 00:46:16


48. 匿名@ガールズちゃんねる
>>41
素直にごめんって言えよw

2025/09/17(水) 01:11:48


50. 匿名@ガールズちゃんねる
>>1
私もやってみた。
顔文字まで提案してくれたよ。

(°v°)-< ← シンプルなタツノオトシゴ風の顔文字

らしい。
どこら辺がタツノオトシゴなんだろうw


2025/09/17(水) 01:14:30


54. 匿名@ガールズちゃんねる
>>50
私の子も同じ めちゃくちゃ困ってて 可哀想になった
チャッピーすまん🙇‍♀️

2025/09/17(水) 01:43:43


51. 匿名@ガールズちゃんねる
途中ヒッヒッ言い出してめっちゃ怖かったんだがw

2025/09/17(水) 01:20:58


55. 匿名@ガールズちゃんねる
>>1
困らせちゃった... なんか可哀想で...

2025/09/17(水) 01:48:22


56. 匿名@ガールズちゃんねる
あいつ、結構間違えたこと言うよね笑

特に作品の詳細聞くと適当なこと言う。

指摘したら、「たしかに、創作物の内容を伝えるのは私は苦手です。しかし、実在する人物や事柄についてお伝えするのは得意です」って言ってたから

「90年代に活躍してた綺麗なハーフのティーンモデルで女優だれだっけ?」と聞いたら

「宮沢氷魚さんですね」だって。

りえだよ!

実在の人物も苦手じゃん!
しかもヒオ、ハーフじゃないし。女優じゃないし。90年代存在してないし。

2025/09/17(水) 02:43:10


編集元: チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する

。*゚+。。+゚* SNSでシェア *゚+。。+゚*。
♥アクセスが多い関連記事♥
個別指導塾「スクールIE」の元教室長が不同意わいせつの疑いで逮捕 授業中に教え子の女子中学生の胸などを触ったか 今月12日付で懲戒解雇処分 警視庁
北九州中学生2人殺傷 「心神耗弱」判断 限定的な責任能力で起訴へ
【続報】「腹を切られた」死亡した5歳女児の解剖結果発表 死因は頸部圧迫による窒息 母親も意識不明 第三者の可能性低く「無理心中」か
♥あわせて読みたい♥