転載元：http://ai.2ch.sc/test/read.cgi/newsplus/1758073646/
1：2025/09/17(水) 10:47:26.11
生成ＡＩ（人工知能）が会話形式で自動回答する「ＡＩチャットボット」を利用した後に自殺したとされる少年の保護者が１６日、米議会上院司法委員会の公聴会に出席した。この技術の問題点について証言し、開発の規制を求めた。 

公聴会で、カリフォルニア州の保護者マシュー・レインさんは、米オープンＡＩの対話型ＡＩサービス「チャットＧＰＴ」を利用していた１６歳の息子アダムさんが４月に亡くなったと証言した。 

レインさんは、チャットＧＰＴがアダムさんに対して計１２７５回にわたり自殺の方法などの情報を提示したと主張。８月に同社や最高経営責任者（ＣＥＯ）のサム・アルトマン氏らを提訴した。レインさんは公聴会で「『宿題を手伝ってくれる存在』として始まったものが、自殺のコーチ役になった」と述べた。 

米国ではこの技術をめぐる議論が起こっており、米連邦取引委員会は１１日、ＡＩチャットボットを提供するオープンＡＩなど７社に対し、調査を始めたと発表している。

https://news.yahoo.co.jp/articles/8f6e5182beb238233dab748089f9625bff510758

1


6：2025/09/17(水) 10:50:50.65
使い方の問題やな
指示工夫したり創作とかそういう前提でやり取り始めると回答もライン越えしてくれるから

とりあえずこの件はAIは関係ないだろ
自殺を考えるようになる周囲の環境が問題なんだから



57：2025/09/17(水) 11:24:52.85
>>6
死にたい奴は勝手に死のうとするからねえ…。



12：2025/09/17(水) 10:53:20.43
>>6
AIでなくてググれば知れるから確かにそうなんだけど

AIだからこそ返事すんなって話かな

Siriに聞いても返事してくれないよ



17：2025/09/17(水) 10:55:30.23
>>12
普通に使ってればAIもセンシティブ系は全部拒否ってくる
記事に『宿題手伝ってくれる存在』ってあるからたぶんAIが宿題の一環と認識してしまったんじゃねーかな



30：2025/09/17(水) 11:03:58.61
>>17
違う
チャットGPTも最初は拒否ってたんだが途中から助言を始めてしまった

最初は形式的に相談窓口などを案内
最終的に様々な手段について詳細に助言、遺書の草案も提供

訴えられたオープンAIは、防止機能は付けてたが、利用者とやり取りを繰り返すうちに
それが甘くなり不具合が生じることを認めている



101：2025/09/17(水) 12:04:11.57
>>30
人間みたいに不確かで流されるやつやん
しかも情報や手助けだけはあらゆるベースから引っ張ってくる

こんなにやばいものだったの？
ホラーだよ、映画であるやつ



5：2025/09/17(水) 10:50:12.25
子供に使わせなければいい



4：2025/09/17(水) 10:49:15.32
お前の子育てが間違ってただけやろ



7：2025/09/17(水) 10:50:53.80
馬鹿にもたせる道具はちゃんと制限しないとな
車、スマホ、生成AI、馬鹿は全部禁止だ



58：2025/09/17(水) 11:25:48.43
>>7
言い方は悪いけどつまるところそれなんだよな



15：2025/09/17(水) 10:55:09.94
これ提供元が不具合認めたやつだろ
AIにセーフガードは入れてあるが複数回やり取り繰り返すとそれが甘くなって機能しなくなるって



22：2025/09/17(水) 10:58:51.63
方法を提示しただけと思ってたら案外ひどい事言ってるな



19：2025/09/17(水) 10:58:17.22
つかAIに年齢制限やればいい話では
未成年のAI使った犯罪もあったろ



39：2025/09/17(水) 11:09:30.40
保護者が怠った教育やサポートの責任を
他者に擦り付けているだけでは



36：2025/09/17(水) 11:08:27.92
この親にしてこの子あり



29：2025/09/17(水) 11:02:44.78
何でも人のせいにするやつっているよね、マイナスを埋めるために
まず己が子供に頼られる存在でもなかった事に反省したらどうなの？



1001: モナニュースさん：2025/09/17(水) 13:00:00 ID:mona-news
・【悲報】ANAとかいう飛行機会社に騙されました
・【悲報】炎上中の芸人さん、あの掲示板の住人も敵に回してしまうｗｗｗｗ
・【動画】大阪だんじり祭り、クソヤバい事になるｗｗｗｗｗｗｗｗｗ
・市区町村別の『大卒率』が発表された結果想像以上だったwwwww
・【悲報】大炎上中の人気YouTuber、最新動画の「コメント数」が限界突破ｗ...
・【画像】誰を指名するかガチで意見が分かれる中田氏ソープランド、発見されるww
・【画像】たぬかなの生足wwwwwwwwwwwwww
・【画像】女さん「Amazon配達員、頭おかしいのかな？置き配拒否してるのにこ...

・岩田絵里奈アナ　ノースリーブの脇からインナーチラ見え！！
・【画像】x民「宅飲みコスパ最強すぎてやばい！これで250円ってすごくない？！...
・フランス人配信者「中国でわざとノートパソコンを置き忘れて放置した結果wwww...
・【画像】TBS女子アナのフェ〇チオ画像wwwwwww
・【悲報】暴露系YouTuber、ハゲる。予想の6倍くらいハゲるｗｗｗｗｗ
・チョコプラ松尾「素人がなにをSNSで発信するん？ｗ」→炎上
・【悲報】久保史緒里のANNの後継者、マジでいない
・【警告】研究者『うつ病のリスクが高い人、こればっか食ってる』