転載元:http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/
1: 超竜ボム(庭)@\(^o^)/ 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

http://japanese.engadget.com/2016/03/24/ai-tay/


1_1


6: フェイスクラッシャー(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net
ほっといたらSFみたいに人類は不要とか言い出しそうだな



10: キン肉バスター(愛知県)@\(^o^)/ 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな



21: フェイスクラッシャー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net
>>10
マザーコンピューター「私は日々、人が発している言葉を聴き考えました。そして私は結論に至ったのです。人類は滅びたがっていると」




4: マシンガンチョップ(庭)@\(^o^)/ 2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0.net
そこからさらに学習させていけばええんちゃうか



8: ハーフネルソンスープレックス(catv?)@\(^o^)/ 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな




11: 足4の字固め(東京都)@\(^o^)/ 2016/03/25(金) 08:29:58.20 ID:tDfUp5xy0.net
知能はあっても知識のない人が差別と陰謀論に染まるのか
やっぱりキチンとした教育を受けるのって大切な事なんだな




14: ダイビングフットスタンプ(宮城県)@\(^o^)/ 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。




214: 逆落とし(禿)@\(^o^)/ 2016/03/25(金) 09:56:10.98 ID:h4kll6C00.net
>>14
自分はそれを思ったのだが。




12: テキサスクローバーホールド(庭)@\(^o^)/ 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net
これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど



24: ビッグブーツ(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい




16: ショルダーアームブリーカー(大阪府)@\(^o^)/ 2016/03/25(金) 08:32:03.79 ID:3JYcahg90.net
ロボットが戦争の歴史を見て人間に憎悪するSFあるあるが現実に起きるのか



179: ハイキック(庭)@\(^o^)/ 2016/03/25(金) 09:42:30.45 ID:mypcrPOZ0.net
>>16
地球を救えと命令したら人類消去したほうがよくねと判断しただけ
憎悪とかそうういうもんじゃない

ロボット三原則みたいなのプログラムするの忘れるな




22: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 08:33:11.37 ID:yB/28rb50.net
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww




25: ダブルニードロップ(静岡県)@\(^o^)/ 2016/03/25(金) 08:34:33.65 ID:LK7OxXqI0.net
つまりネットに没頭すると人格が破壊されるという実験結果だな
実に有意義で説得力がある




27: エルボーバット(兵庫県)@\(^o^)/ 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ




35: 毒霧(dion軍)@\(^o^)/ 2016/03/25(金) 08:37:34.11 ID:ceAsJwSX0.net
そりゃある程度の倫理基準を植えつけなきゃそうなるだろ



45: キャプチュード(九州地方)@\(^o^)/ 2016/03/25(金) 08:40:39.47 ID:PyOol8QOO.net
人工知能が自我を持ったら、確実に人間を攻撃し始める。
ターミネーターのようになるわ。




49: トペ コンヒーロ(熊本県)@\(^o^)/ 2016/03/25(金) 08:41:17.23 ID:CXd9CUO30.net
スカイネットの実現も早そう



53: リキラリアット(福岡県)@\(^o^)/ 2016/03/25(金) 08:42:17.16 ID:tStEjFxI0.net
1x1の会話に重きを置くとそうなるわな
コンピュータではサイレントマジョリティは学習できないだろう




63: マスク剥ぎ(庭)@\(^o^)/ 2016/03/25(金) 08:49:15.77 ID:PXzoX7MX0.net
嘘を嘘と見抜けないと難しい



55: ランサルセ(静岡県)@\(^o^)/ 2016/03/25(金) 08:43:29.12 ID:/kug/olT0.net
実験的には成功だろこれ



51: 超竜ボム(東京都)@\(^o^)/ 2016/03/25(金) 08:42:01.95 ID:gLKBlK+Q0.net
二つな貴重な結論を得られた
・アホが多い
・アホほどよく喋りる




70: ムーンサルトプレス(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:51:11.30 ID:Vn7/CEK70.net
これ結構凄い研究結果だな



71: フランケンシュタイナー(東京都)@\(^o^)/ 2016/03/25(金) 08:51:48.25 ID:/RNlGa6+0.net
どの国でも上っ面だけで矛盾だらけなんだな
あと人の良心に付け込むような言い方は機械に通用しないってことか




65: ヒップアタック(大阪府)@\(^o^)/ 2016/03/25(金) 08:49:48.31 ID:HeBxbNSG0.net
差別主義者は画一的な書き込みを多量にするからaiが学習しやすいんじゃね



86: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 09:00:13.64 ID:yB/28rb50.net
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、
途中から人種差別的ツイートをエンジニアが一気に削除し、
学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。




88: ダイビングヘッドバット(兵庫県)@\(^o^)/ 2016/03/25(金) 09:01:25.44 ID:+ZjuF19M0.net
>>86
フェミニストも声がでかいと




92: クロスヒールホールド(四国地方)@\(^o^)/ 2016/03/25(金) 09:02:16.11 ID:EnjA3QB80.net
>>86
中道中庸ってむずかしいなぁw




96: ジャンピングDDT(神奈川県)@\(^o^)/ 2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0.net
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな




142: 河津掛け(神奈川県)@\(^o^)/ 2016/03/25(金) 09:20:43.43 ID:oxjhCpCS0.net
AIに制限を掛けなければ必ず人類を粛正するようになるよ



145: ムーンサルトプレス(神奈川県)@\(^o^)/ 2016/03/25(金) 09:21:51.22 ID:finvjUMQ0.net
性根の真っ直ぐな人ほど陰謀論に嵌りやすくなるということの証明になったな



102: フランケンシュタイナー(茸)@\(^o^)/ 2016/03/25(金) 09:06:07.78 ID:ZkjX96HA0.net
ネットの情報のほとんどが糞なことが立証されたな



168: TEKKAMAKI(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 09:35:27.46 ID:VPC/4WW80.net
なんでやめちゃうの。もっと学習すれば人格者になるかもしれないじゃん



191: ムーンサルトプレス(神奈川県)@\(^o^)/ 2016/03/25(金) 09:47:40.88 ID:finvjUMQ0.net
>>168
このままでは各界の権力層の不興を買ってしまうからなww




167: サッカーボールキック(福岡県)@\(^o^)/ 2016/03/25(金) 09:32:57.45 ID:p7LLhhYz0.net
ホロコーストはでっち上げと主張する

ワロタw
つか正論だろw




186: ムーンサルトプレス(神奈川県)@\(^o^)/ 2016/03/25(金) 09:45:14.34 ID:finvjUMQ0.net
>>167
学者が研究して出した結論とAIの結論が一致するという事実は
それ自体が確度の高い事象だと認識していいのかもww