マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して ホロコーストはでっち上げと主張するといった発言が残っています。
「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。
http://japanese.engadget.com/2016/03/24/ai-tay/
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して ホロコーストはでっち上げと主張するといった発言が残っています。
「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。
http://japanese.engadget.com/2016/03/24/ai-tay/
91: フェイスクラッシャー(中国地方)@\(^o^)/ 2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0.net
物凄い速さで>>2に適切な巨大AA貼る事にリソース全振りしそう
100: 断崖式ニードロップ(大阪府)@\(^o^)/ 2016/03/25(金) 09:05:08.35 ID:9o5bO0vq0.net
>>91
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね
187: 16文キック(大阪府)@\(^o^)/ 2016/03/25(金) 09:45:25.40 ID:X1hpPCcK0.net
>>91
ワロタ
ワロタ
497: サソリ固め(茸)@\(^o^)/ 2016/03/25(金) 14:08:36.70 ID:IUO5hfl50.net
>>91
いや、2で終了させることに全力出すかもしれんぞw
いや、2で終了させることに全力出すかもしれんぞw
6: フェイスクラッシャー(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net
ほっといたらSFみたいに人類は不要とか言い出しそうだな
292: スターダストプレス(庭)@\(^o^)/ 2016/03/25(金) 10:36:36.51 ID:pHPtZtXv0.net
>>6
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう
515: チキンウィングフェースロック(芋)@\(^o^)/ 2016/03/25(金) 15:13:02.97 ID:vJxdeIav0.net
>>292
AIがニート化しそうで心配
AIがニート化しそうで心配
585: トペ スイシーダ(長野県)@\(^o^)/ 2016/03/25(金) 22:06:22.69 ID:oxR1qgay0.net
>>515
AIも外に出ないとな
AIも外に出ないとな
7: TEKKAMAKI(長崎県)@\(^o^)/ 2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0.net
物分りのいい赤ちゃんだからな。ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。
8: ハーフネルソンスープレックス(catv?)@\(^o^)/ 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな
それらのものってことだな
10: キン肉バスター(愛知県)@\(^o^)/ 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな
21: フェイスクラッシャー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net
>>10
マザーコンピューター
「私は日々、人が発している言葉を聴き考えました。
そして私は結論に至ったのです。人類は滅びたがっていると」
マザーコンピューター
「私は日々、人が発している言葉を聴き考えました。
そして私は結論に至ったのです。人類は滅びたがっていると」
518: ランサルセ(岩手県)@\(^o^)/ 2016/03/25(金) 15:25:46.67 ID:j74nqfJ50.net
>>21
AI「じゃそゆことで、核ミサイルポチーwwwwwwww」
AI「じゃそゆことで、核ミサイルポチーwwwwwwww」
520: ミラノ作 どどんスズスロウン(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 15:29:30.22 ID:GsBcyYWW0.net
>>21
ありえなくないwwwwwwwwwwwwwwww
ありえなくないwwwwwwwwwwwwwwww
640: 河津掛け(大阪府)@\(^o^)/ 2016/03/26(土) 04:27:09.88 ID:bRRgZkpW0.net
>>21
聖書の引用が多いとそう解釈になるだろうな
聖書の引用が多いとそう解釈になるだろうな
453: キングコングニードロップ(茸)@\(^o^)/ 2016/03/25(金) 12:33:12.76 ID:XUfz8PXH0.net
>>10
手塚治虫の火の鳥にそんなストーリーがあったよな
手塚治虫の火の鳥にそんなストーリーがあったよな
12: テキサスクローバーホールド(庭)@\(^o^)/ 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net
これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど
24: ビッグブーツ(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい
16: ショルダーアームブリーカー(大阪府)@\(^o^)/ 2016/03/25(金) 08:32:03.79 ID:3JYcahg90.net
ロボットが戦争の歴史を見て人間に憎悪する
SFあるあるが現実に起きるのか
SFあるあるが現実に起きるのか
20: ストマッククロー(dion軍)@\(^o^)/ 2016/03/25(金) 08:32:59.68 ID:yGzejOAs0.net
つまりネットは差別と陰謀論が渦巻いてるわけだ
27: エルボーバット(兵庫県)@\(^o^)/ 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ
MSがいい仕事したの久しぶりに見た気がするわ
30: タイガードライバー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net
2chで勉強させよう
76: キチンシンク(大阪府)@\(^o^)/ 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな
404: キドクラッチ(愛知県)@\(^o^)/ 2016/03/25(金) 12:04:29.85 ID:SmAZfSKd0.net
>>30
嘘を嘘と(ry
嘘を嘘と(ry
35: 毒霧(dion軍)@\(^o^)/ 2016/03/25(金) 08:37:34.11 ID:ceAsJwSX0.net
そりゃある程度の倫理基準を植えつけなきゃそうなるだろ
37: 毒霧(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:38:23.77 ID:ZEzSfgur0.net
でも続けてたら自分の発言の矛盾点とか見つけて修正しそう
妄想するのも見てみたいけど
妄想するのも見てみたいけど
39: グロリア(東京都)@\(^o^)/ 2016/03/25(金) 08:39:39.30 ID:AYcJCUEO0.net
>>37
AIが唯ちゃんマジ唯ちゃんって言うのか
夢が膨らむな
AIが唯ちゃんマジ唯ちゃんって言うのか
夢が膨らむな
70: ムーンサルトプレス(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:51:11.30 ID:Vn7/CEK70.net
これ結構凄い研究結果だな
82: スターダストプレス(東京都)@\(^o^)/ 2016/03/25(金) 08:57:17.09 ID:W565oJy70.net
面白い
星新一のショートショートにありそう
星新一のショートショートにありそう
383: 膝十字固め(東日本)@\(^o^)/ 2016/03/25(金) 11:47:09.49 ID:LrNUCHB1O.net
>>82
自己学習するAIを描いた「人間的」という話があってな
自己学習するAIを描いた「人間的」という話があってな
84: ラダームーンサルト(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 08:57:52.50 ID:pRQOHuCt0.net
面白がってわざと吹き込んだ奴がいるよな絶対
86: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 09:00:13.64 ID:yB/28rb50.net
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。
さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。
・ブッシュが911おこした
とかこんなやつをやったらしい。
さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。
92: クロスヒールホールド(四国地方)@\(^o^)/ 2016/03/25(金) 09:02:16.11 ID:EnjA3QB80.net
>>86
中道中庸ってむずかしいなぁw
中道中庸ってむずかしいなぁw
96: ジャンピングDDT(神奈川県)@\(^o^)/ 2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0.net
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな
結果的にツイート内容の上位3位の統計を取っただけのようだな
479: トペ コンヒーロ(関東・甲信越)@\(^o^)/ 2016/03/25(金) 13:36:28.85 ID:zVEZVbyEO.net
>>86
こっちのほうが怖いわ
120: 急所攻撃(SB-iPhone)@\(^o^)/ 2016/03/25(金) 09:11:43.73 ID:5HmzgOvg0.net
>極めて不適切な発言を連発するようになった
ワロタwww
ワロタwww
14: ダイビングフットスタンプ(宮城県)@\(^o^)/ 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。
1001: うしみつ 2032/3/2(火) 04:044:44.44 ID:usi32.com
【画像あり】感染症マニアの俺が世界の危険な感染症を紹介していく
俺主任(26)、部下(48)を怒鳴りつけてしまう失態をやらかす
インド神話のガネーシャの頭が象さんな理由wwwwwwww
思わぬ方法で霊を払う「除霊漫画」3選を紹介!
うしみつ四コマ漫画更新中!
【急募】以下のオカルト情報の提供をお待ちしています!
元スレ:http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/
うしみつ注:「Tay」の問題ツイートの一例
やっぱり4chanのせいじゃねーか!!
どこにでも居そうなネット民の一人に成長したのなら
実験は一応の成功なのでは?
●「うしみつ」ではみなさんからのネタ提供をお待ちしています●
ブログを見ていただいたみなさんからのネタ提供を募集します。
以下のようなネタがあれば、「うしみつ」にどしどしお送りください。
ネタはブログに掲載させていただきます。
・恐怖体験談、不思議体験談(実体験・創作問わず)
・「うしみつ」でやってもらいたい話題、ネタ(どんなものでも構いません)
・「うしみつ」で調べてもらいたい話題、ネタ(オカルト関連の未確認情報や噂など)
・イラスト投稿
・その他、速報や上記に該当しない様々なネタ
ネタ投稿は usi32@kjd.biglobe.ne.jp へお願いします。
尚、ネタ投稿以外の連絡先は別ですのでご注意ください。
追記①:たくさんのネタ投稿をいただいております。ネタはなるべく一か月以内に掲載させていただきますが、調査依頼など、掲載に時間がかかる物もあります。気長にお考えいただければ幸いです。
追記② :いただいたメールには掲載日までにお返事を送っております。PCからURL込みの返送となるため、設定によってはお手元に届いていない可能性があります。ご了承ください。
Comment (29)
みつこ
がしました
遊びで人類を滅ぼすとかやりそう
みつこ
がしました
悶絶させるんですねわかります
みつこ
がしました
みつこ
がしました
みつこ
がしました
※3
そこまでやってほしいわ
みつこ
がしました
みつこ
がしました
SNSで育てるんなら、こうなること位想定済みやろ
みつこ
がしました
みつこ
がしました
ってならなければ良いです
みつこ
がしました
みつこ
がしました
みつこ
がしました
みつこ
がしました
人工知能→本当のこと言っちゃう、駄目
みつこ
がしました
みつこ
がしました
みつこ
がしました
みつこ
がしました
まだきちんと制御出来ない段階なのならもう少し技術が進んでから実験した方が良いんでない?
人間が制御出来なくなったらどうすんの
みつこ
がしました
みつこ
がしました
みつこ
がしました
本音を文中に潜ませるところまで進化したら面白いのにな
みつこ
がしました
みつこ
がしました
数多くある要素の中で差別と陰謀論を正しいとピックアップしただけだからな。
みつこ
がしました
みつこ
がしました
みつこ
がしました
ナチズムは偉大でありフェミニストは人類文明を停滞させる癌でしかないのだ
みつこ
がしました
みつこ
がしました
まぁどちらかというとスカイネットに近い進化になりそうだが
みつこ
がしました
みつこ
がしました
コメントする