最新ニュースヘッドライン


マイクロソフトの機械学習AI「Tay」が公開→AIがネットで差別と陰謀論に染まってしまい一日で公開停止

1: 自由な名無し 2016/03/25(金) 08:26:23.48 ●.net BE:545512288-PLT(16445) ポイント特典
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

ターゲットは、米国でチャットアプリを多用する年齢層である18歳から24歳。なんでもない会話や質問に冗談を交えて答えたり、ちょっとしたゲームをしたり、送られた写真にコメントを書き加えて返すことが基本機能です。
Tay自身は設定上は女性。若者らしく俗語や省略綴り、絵文字も多用します。

またユーザー個人について性別や好み、居住地や恋人の有無などを学ぶことで、相手を理解したチャット相手になることも特徴です。
このあたりはWindows 10標準のパーソナルアシスタントであるコルタナさんとも通じます。(注意書きによれば、収集したデータや会話は匿名化したうえでサービス向上のため最長一年間保持されることがあります)。

要は昔からある人工無脳チャットボットを機械学習など最新の技術で高度化し、膨大なユーザーの暇つぶし相手を通じて多くのデータを集め、自然な会話ができる人工知能を目指す実験です。
日本では同じくマイクロソフト製の仮想女子高生りんなちゃんがLINE公式アカウントとして話題になりました。

8: 自由な名無し 2016/03/25(金) 08:29:00.16
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな

6: 自由な名無し 2016/03/25(金) 08:28:53.95
ほっといたらSFみたいに人類は不要とか言い出しそうだな

292: 自由な名無し 2016/03/25(金) 10:36:36.51
>>6
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう

515: 自由な名無し 2016/03/25(金) 15:13:02.97
>>292
AIがニート化しそうで心配

10: 自由な名無し 2016/03/25(金) 08:29:30.33
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

21: 自由な名無し 2016/03/25(金) 08:33:08.29
>>10
マザーコンピューター 「私は日々、人が発している言葉を聴き考えました。
               そして私は結論に至ったのです。人類は滅びたがっていると」

20: 自由な名無し 2016/03/25(金) 08:32:59.68
つまりネットは差別と陰謀論が渦巻いてるわけだ

22: 自由な名無し 2016/03/25(金) 08:33:11.37
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww

25: 自由な名無し 2016/03/25(金) 08:34:33.65
つまりネットに没頭すると人格が破壊されるという実験結果だな
実に有意義で説得力がある

37: 自由な名無し 2016/03/25(金) 08:38:23.77
でも続けてたら自分の発言の矛盾点とか見つけて修正しそう
妄想するのも見てみたいけど

46: 自由な名無し 2016/03/25(金) 08:40:41.36
ネットde真実してしまったか

59: 自由な名無し 2016/03/25(金) 08:47:27.39
ワロタ
アメリカも同じようなもんなんだな

63: 自由な名無し 2016/03/25(金) 08:49:15.77
嘘を嘘と見抜けないと難しい

82: 自由な名無し 2016/03/25(金) 08:57:17.09
面白い
星新一のショートショートにありそう

86: 自由な名無し 2016/03/25(金) 09:00:13.64
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。

88: 自由な名無し 2016/03/25(金) 09:01:25.44
>>86
フェミニストも声がでかいと

92: 自由な名無し 2016/03/25(金) 09:02:16.11
>>86
中道中庸ってむずかしいなぁw

501: 自由な名無し 2016/03/25(金) 14:12:39.68
>>86
つまり頭が悪いと陰謀論者か差別主義者かフェミニストになると

98: 自由な名無し 2016/03/25(金) 09:04:22.77
ネットでde真実キタ━━━━━━━(゚∀゚)━━━━━━━!!w

102: 自由な名無し 2016/03/25(金) 09:06:07.78
ネットの情報のほとんどが糞なことが立証されたな

152: 自由な名無し 2016/03/25(金) 09:24:34.33
ガラが悪いのは2ちゃんねるだけじゃなかったのか(´・ω・`)

162: 自由な名無し 2016/03/25(金) 09:30:00.46
Facebookなら意識高い系になるだけで済んだかもしれない

管理人コメ
管理人リア充自慢とコネアピールばっかりのAIになりそうで嫌だ(笑)


押して応援していただけるとありがたいです→
スポンサードリンク
  
新着記事

コメント

  1. よみ人知らず より:

    学習っておうむ返しのことかよwエミーⅡレベルw

コメントはこちらから(反映にタイムラグあり・差別用語は禁止・URLは4つまで)

メールアドレスが公開されることはありません。