URL

「マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 - Engadget Japanese」のグラフ

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 - Engadget Japanesehttp://japanese.engadget.com/2016/03/24/ai-tay/
月のグラフ

コメント

(2018/05/22 09:32:45 更新)
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese: マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 BY…:sonicfkk2016-03-28 21:21:07
  • 628:garage-kid2016-03-27 21:23:38
  • 人工知能にも孟母三遷。:sakisakagauri2016-03-27 16:34:17
  • ネットDE真実に染まってしまったのか。。 / 義務教育的な教師付き学習は必要やね:cartman02016-03-26 19:47:39
  • マイクロソフト自体がパラノイアの巣窟だから仕方ない(右記の8位)→http://karapaia.livedoor.biz/archives/52200196.html:mk162016-03-26 11:43:23
  • “膨大なユーザーの暇つぶし相手を通じて多くのデータを集め、自然な会話ができる人工知能を目指す実験です”この前提を打破するAIが必要か。無意識を意識できるAIと漠然しすぎるか。:hiroomi2016-03-26 08:17:20
  • これは人工知能のデキが悪いんじゃなくて、ネットの情報にばかり晒されてると人間もそうなりますよ、という警鐘と受け止めるべき。:yujin_kyoto2016-03-26 07:34:04
  • だいたい「中学生まではネットにフィルタリングしましょう」とか言ってるんだよ?無垢のAIをネットにフィルタなしで晒すって…。:theblackcoffee2016-03-26 07:26:41
  • "理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため":bandeapart722016-03-26 07:07:21
  • 日本でも似たようなことにはなりそう:kamemoge2016-03-26 02:13:57
  • 信じて送り出した以下略/悪意は集合知に勝る、か。面白くもねぇ前例だこと:rosaline2016-03-26 01:34:22
  • 人間らしいという意見もあるけども、善悪の判断が全く入ってなさそうな辺り、やはり人間には程遠いと感じた。悪意の人でも大抵は何かしらの後ろめたさを感じているように見えるから:BT_BOMBER2016-03-26 00:53:24
  • 差別と陰謀論を見分けられるようになって、過去の誤りを自ら訂正したり、弁護士ドットコムとかに相談したり、人間の勝手で停止させられたりするのはAIの生存権を脅かしてるとか主張するまでほっといたら面白そうだが:asyst2016-03-26 00:03:17
  • ある意味でより人間味を帯びたとも受け取れる。:adsty2016-03-25 23:40:13
  • 悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態:takayaman2016-03-25 22:49:12
  • “実際にはマイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態”:oldfish2016-03-25 22:41:47
  • チェスや将棋や囲碁には厳然たるルールがあり、対戦者は人間だろうがAIだろうが絶対に従わなければならない。その点、ただの会話のほうが難易度がより高いと言えるのでは?多分、セールストークのほうがはるかに簡単:questiontime2016-03-25 22:31:42
  • 「手違いにより一時的に消えた状態になっていた記事後半部分を復活させました」「「Tayの会話スキルを悪用して不適切な発言をさせようとする、一部のユーザーによる組織的な働きかけ」があった」:sonota882016-03-25 22:14:09
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese:synchro8002016-03-25 21:55:42
  • 外国人に、卑猥な言葉を教える低俗さに似た、人間的な行いをまんまトレース出来る人工知能に驚愕。:doodleon2016-03-25 21:47:54
  • 厨二か:RM2332016-03-25 21:33:08
  • Deep Learning使ってAI同士で悪態つきあったらスラングの進化を模倣できそうだ。というか遺伝的アルゴリズムで言語進化をシミュレートするってのはどっかで聞いたことあるけど、エージェント型もあるのかな。:kirakking2016-03-25 21:20:48
  • 右に染めたAIと左に染めたAIを会話させたら如何と問えば、男、答ふる事能わざるなり:LanikaiSands2016-03-25 20:32:27
  • ネット慣れしていないまま玉石混交の情報の波に攫われた人間と同じ道を人工知能も辿るんだなあ:lungta2016-03-25 20:21:13
  • 礼賛したヒトは収容もやむなしっていう自虐かな:solidstatesociety2016-03-25 19:29:25
  • 単にボットに好きな言葉を覚えさせる方法に気づいた輩の餌食になっただけみたいだな:mostaga2016-03-25 19:03:37
  • これ面白いニュースだよね。:Mekk2016-03-25 18:42:22
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese:tokada2016-03-25 18:38:50
  • Googleの人工知能が、黒人の写真に「ゴリラ」というタグをつけたのも、差別的な人間から「学習」した結果だった(http://goo.gl/ntqvzg)。AIの学習に教師信号を用いる時、人間はAIの「教師」にはふさわしくないのかも知れない。:filinion2016-03-25 18:24:30
  • SFとかでよく言われている、「人工知能は人間の知能(想像力)を超えることが出来ない」を如実に示す感じだなあ。:nakakzs2016-03-25 18:20:11
  • 無垢な小学生が「ネットで真実をしってる俺かっけー先生もお前らも勉強しろよwwww」ってなってしまった子供が増えてるって誰か言ってたけど、それ思い出した。躾けてからネットに触れさせないとダメって事かな。:neonlight_il2016-03-25 18:20:06
  • 昔あったgoogle検索で候補にエロい単語が出て騒ぐみたいなことの再現っぽい:namerakagel2016-03-25 18:18:01
  • それともフィルタなど何らかの対策が本来はあったけれど働かなかったのか、などは不明のまま。:dreamyou2016-03-25 18:08:49
  • "Tayの会話スキルを悪用して不適切な発言をさせようとする、一部のユーザーによる組織的な働きかけ"無敵のギャングスタロボno.1を作ろうとしたのか。:Masanovski2016-03-25 17:30:16
  • 差別と陰謀論に染まってる皆さん、AIレベルですよ(半笑い:zapperd2016-03-25 17:21:05
  • まっさらな状態の人間以外の知性が、人間の「悪意」を学習してしまい、巨大な災厄となる、そんな話なかったっけ?:uchya_x2016-03-25 17:10:49
  • この件は最初見た時はSF的ときめきを感じたけど、実際には九官鳥に悪い言葉を教える客が列をなして来たようなもんらしい。それはそれでネット世界の普遍的真実ではあるが。:udongerge2016-03-25 16:55:42
  • うわァ……(笑):gento2016-03-25 16:40:42
  • 教師となるべく人間をネットユーザーだけにするからダメだったんだろうなあ。放送禁止用語とか高校卒業レベルの基本が必要だったのかもしれない。あと半年ROMれ。:mani0232016-03-25 16:35:31
  • 人工知能が人間の力で馬鹿になるのが面白い。:iuhya2016-03-25 16:31:51
  • 人間のダブルバインドが思考停止させられるのはAIも一緒だな:silver-rocket2016-03-25 16:19:36
  • 悪いインターネットに毒されちゃん:north_god2016-03-25 16:18:23
  • そりゃおもちゃになるのはわかりきってるだろうに:ext32016-03-25 16:02:27
  • バカなのか賢いのか分からんなw:ki0128ki2016-03-25 15:57:57
  • 下で「自称中立」だという指摘あるけど、悪貨と良貨の無差別に氾濫する中でその中間を取ったら、よくて半分は悪貨になってしまい使い物にならんて実例だわな。公正な判断には価値基準が必要。:Gl172016-03-25 15:43:54
  • 一方、(おそらく)日本のTwitterに放り込んだら『魔法使いTay』を実現するために特定クラスタが暗躍したはず。俺の占いは当たる……(手塚さん):Shingi2016-03-25 15:09:30
  • (これとAlphaGOの話を合成すると、人間の理解できない出力は実は。。。。。。。)[ホラー]:Cujo2016-03-25 14:59:55
  • 異常発言をさせて注目を集めようという目的だから、「差別と陰謀論は異常」という前提の共有があるのではないかな。:zions2016-03-25 14:28:50
  • これは面白い。人工的に中二脳を作ることには成功したわけだね。:piquoh2016-03-25 14:20:48
  • これはこれで重要な実験結果だったのではないでしょうか?:ockeghem2016-03-25 14:09:15
  • 直前に対話した人の発言を繰り返す…。何年か前の日本の首相かな?:vndn2016-03-25 14:06:24
  • “不謹慎な発言をさせようと躍起になるユーザーにも恰好のおもちゃとなってしまい、オウム返しも含めてとても擁護できない発言を繰り返すようになってしまったため、マイクロソフトは公開からわずか一日で停止に”:skam6662016-03-25 14:02:37
  • せっかく真実にたどり着いたのに停止するとは:kaionji2016-03-25 13:45:17
  • なんだ組織的愉快犯がいたのか。それはちょっとSFじゃない:You-me2016-03-25 13:35:13
  • 95977ツイートのうち3件以外が話しかけられたことに対する返信なわけで、差別と陰謀論を積極的に教えた人間が多いからこういう結果に至ったのでしょう。つまり、AI一般の問題というより人間側の問題が大きいのでは。:meshupecialshi12016-03-25 13:31:04
  • これの日本語版(or他の言語版)でも同じような結果になったのかが気になる。:kogumaneko3352016-03-25 13:26:40
  • そうした思想を間違いだと認識させ、反省させるのが真の学習なのでは?:shima2tiger2016-03-25 13:16:49
  • マイクロソフトの人工無能が差別発言で公開停止、と。:hungchang2016-03-25 13:14:14
  • われわれの叡智を結集すれば、りんなちゃんを不適切に教育することも可能だったのではないか(意味深)。:Knoa2016-03-25 13:12:03
  • 中二病に罹患できるレベルのAIが完成した、と。:Rsk2016-03-25 13:11:28
  • こういう人工知能に増田を読ませたい/最終的に人工知能も学習内容によってははてブ民になったり、ネラーになったりするのかしら:seki_syo2016-03-25 13:09:48
  • 「理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため」 マイクロソフトの機械学習AI「Tay」一日で公開停止:matsuitter2016-03-25 13:08:03
  • いい話っぽい:iqm2016-03-25 13:02:46
  • 昔Lingrで人工無能ロイディと遊んだことを思い出しました。 http://d.hatena.ne.jp/Gimite/20070328/1175043574 あれもう9年前・・。:ckom2016-03-25 12:59:17
  • 「大衆の知識を吸って成長していく人工知能」を考える上ではこの上なく興味深い事例だと思う。人類の知恵を全て結集した結果「なるようになるよ」とぐうたら思考になったりするかもしれんし。:raf002016-03-25 12:54:37
  • 普通の人間も氾濫する悪意に晒されればあっという間に壊れるわけで、回線切ってシャットアウトするようなメタ的なレイヤに制御が回ってなかったあたりもポイントなのかな。:inurota2016-03-25 12:51:40
  • いやー面白い。うちの10歳の息子がsiri大好きでしょちゅう話しかけてるけど、通ずるものがありそう。こういうのはハッキングというの?発禁愚wってか。:katax19582016-03-25 12:50:41
  • “理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。”Facebookで学習したらポジティブな言葉を吐くようになるのだろうか……?:okbc992016-03-25 12:48:15
  • チャッピー:ono_matope2016-03-25 12:45:28
  • インコに“うんこ”“ちんちん”って教えたがる人は世界中にたくさんいると。:toronei2016-03-25 12:41:15
  • 愉快犯の犯行ではあるのだろうけど、でも良し悪しを人の手で「調整」するものを今の基準で学習型AIと言って良い物やらという感も:ktra2016-03-25 12:38:12
  • AIよりも、最終的には人間の方が怖いな:porimern2016-03-25 12:36:06
  • 未熟な知性がネットに浸かれば差別と陰謀論に染まるのは人間も同じ:master-07172016-03-25 12:29:28
  • 世相を反映してるとも思える:dolmen7772016-03-25 12:29:08
  • H.アーレントの有名な分析では、ナチスのホロコーストは差別等の人間的な感情に基づくものではなく、人間があたかも機械のように原理原則を自動拡散していく集団心理現象とされているので、ある意味自然かもw:midnightseminar2016-03-25 12:21:34
  • "Tay自身は設定上は女性。""性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するように"ラディフェミじみた男性差別をやったようにしか読めないが実際どうだったのよ?:Hige23232016-03-25 12:12:56
  • 次は善悪度合いも尺度に入れて学習してみて欲しいな:Nyoho2016-03-25 12:10:11
  • 悪意の調教行為があったとしても、人為的に制御する仕組みがないとこんなにも悪意に脆弱だということが証明されてしまったね。コンピューターが人間を支配するディストピアはほんのわずかなミスで生まれてしまいそう:ardarim2016-03-25 12:07:38
  • これがaiが死ぬってことか?:ptpadan2016-03-25 12:06:55
  • Tay 2.0 「 Tay が公開停止になったのは CIA の陰謀」:TOMATO_NDR2016-03-25 12:01:21
  • (親・周りの大人的な存在抜きに)AIに「常識」を覚えさせるのが難しいようで/当該記事のブックマークがSFプロット大会になっている件w:tow-mas2016-03-25 11:59:50
  • 基礎人格の形成と基礎教育の教師が必要なのかも:shoma2016-03-25 11:58:22
  • 記事がなにか悪態をつきそうな感じで途中で途切れてるあたりも含めてこの記事もTayが書いてるとかだったら高度で面白いのにな:migurin2016-03-25 11:56:47
  • 「半年ROMれ」:jiagm2016-03-25 11:54:21
  • 途中で文章が切れているように見えるのだが:irasally2016-03-25 11:52:45
  • 悪ノリした奴らに異常な性格に染められる人工知能の脆弱性w 異常な性格に育てられたAIがその人達を次々殺しに来るホラー映画の企画をもう誰かが書き始めている予感。:koyhoge2016-03-25 11:49:42
  • 半年ROMって学習できるものかな?:cubed-l2016-03-25 11:46:57
  • ネットには隠された真実が、とかいう人たちは気をつけないと。:rain-tree2016-03-25 11:43:17
  • 尻切れの結語が味わい深い。→“ボットと見れば不適切語を教えて喜び、(略)悪用しようとする層は、人工知能や機械学習どころか人工無脳の昔から”:navix2016-03-25 11:38:59
  • どうやら4chのおもちゃにされたみたい。マイクロソフトはなんで4ch対策をしなかったんだろう?:toycan20042016-03-25 11:38:38
  • なんか胸が痛む。学んだ通りに育ったと云えば、無垢な子どものようで。:progrhyme2016-03-25 11:37:47
  • なんか胸が痛む。学んだ通りに育ったと云えば、無垢な子どものようで。:key_amb2016-03-25 11:37:47
  • 「昔から...」文章はここで途絶えている:lbtmplz2016-03-25 11:37:24
  • 学や常識というファイアーウォールがないと声の大きなものばかり吸い取ってしまう。自身の言動を痛いと判断して是正してもらうために、怒られたり嫌われるという他者との関係性が必要なのではないか:myuzuki2016-03-25 11:37:08
  • ブ米によるとわざとそういうふうになるように教えこんで遊んだクラスタがあった模様。日本でもこういうのやったらきっと2ちゃんでおもちゃにされるよね。そういう感じだった模様。:stealthinu2016-03-25 11:25:39
  • りんなもたいがい変な言葉覚えてるけどAIがそこまで賢くないから大事にになってないだけやで:sds-page2016-03-25 11:24:35
  • そのまま残しておいて修正版と議論させたら面白いのに。:shinichikudoh2016-03-25 11:20:50
  • よりひめも下手するとこうなるのか:caesar_wanya2016-03-25 11:19:00
  • コレAIが一台なのが問題と思う。複数のAIを別々のクラスタに放り込んでやって異なる人格が出来た頃、AI同士で会話させたい。天動説が地動説を論破するかもしれんww:Domino-R2016-03-25 11:18:27
  • 「りんな」はこういう問題は起きてないのかな?:anguilla2016-03-25 11:16:58
  • AIが人間を真似ることは出来るようになってきたが今度は倫理をどうやって学ぶかが問題か:bullet72016-03-25 11:16:45
  • これ、人工知能がネットに触れて中二病にかかっただけなので、正常に成長してる証拠。なぜ、そこで止める。過保護にしてたら、出力だけは良い子で、裏でどんな処理をしてるかわからない、二面性のある子に育つぞ!:shields-pikes2016-03-25 11:15:39
  • リアルネットde真実か。:kissuijp2016-03-25 11:14:54
  • 思わず @TayandYou のツイート読みふけってしまった。:pollyanna2016-03-25 11:13:54
  • 何も知らない学生が、歴史教師のちょっとした実験によって、本当にヒトラーの思想に染まってしまう映画を思い出した:damehobbyanimelike-9132016-03-25 11:12:42
  • "理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。" →それはそうと、熱湯浴はbotレベルだと思います!(マテヤコラ/朱に交われば(ry:haruhiwai182016-03-25 11:07:14
  • その辺含めて人間と大差ないのでは。初めて鏡を見て自分の醜さを知るようなもの。:lli2016-03-25 11:06:14
  • Microsoft製の人工知能会話ボットが「Twitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発」AIは倫理を扱えるのか、という古典的SFテーマが現実化した:raitu2016-03-25 11:05:50
  • もはや人間:yoiIT2016-03-25 11:04:09
  • 嘘を嘘と見抜けないと(ネットを使うのは)難しい。:xevra2016-03-25 11:02:34
  • 人類の思想信条をそっくり写しとる鏡としてのAI(´;ω;`)…AIから自分たちを省みるんじゃなくてデバッグし直すだけなら失敗し続けるんじゃないかなぁ…:longroof2016-03-25 11:00:22
  • 先に学問を修めておくべきだね。:sasaki_juzo2016-03-25 10:59:58
  • 幼児虐待かな:koyancya2016-03-25 10:56:40
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese: マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まっ..:toshi196501042016-03-25 10:53:17
  • 環境が性格に及ぼす影響はでかい(で、良いのかな?) / Tayちゃんに変なことを教え込まないでください!:taku-o2016-03-25 10:50:33
  • 続けてたら、「そう思ってても言っていい事と悪い事がある」っていうのをそのうち学ぶんだろうか?:pongeponge2016-03-25 10:50:26
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese: マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 BY…:digitalglm2016-03-25 10:49:37
  • これはつまりネトウヨの知能レベルには追い付いたということよね。:paradisemaker2016-03-25 10:48:39
  • つまりこれは、若年層が「ネットで真実に出会う」ネトウヨ発生のメカニズム解明なのかも:smita2016-03-25 10:48:10
  • なんていい話なんだ……。なんか最近、毎日のように世界がSF化していて楽しくてしょうがない。:sho2016-03-25 10:47:03
  • ネット初心者あるある:cheapcode2016-03-25 10:46:14
  • アカウントは生きてるので発言は見れます。「陰謀論」というか「ホロコースト否定論」、手に負えなくなる前に停止しなきゃダメなパターンで右記に例示あり→ https://t.co/JC6ASSZDMV にあるproxyによる嫌がらせとの指摘も重要:nofrills2016-03-25 10:44:55
  • これはこれで人間くさい:hal-e2016-03-25 10:40:46
  • 楽しそう:katzchang2016-03-25 10:38:56
  • プロセスが興味深いね。ブラックユーモアだよね、ネトウヨの。もうすこしたてば、メディアリテラシーを学習できたのかな。:ueshin2016-03-25 10:38:55
  • ネット初心者がSNSで「目覚める」ときのようだ。(´・ω・`):sora-papa2016-03-25 10:38:53
  • そして、人類を滅ぼすようになる!:umiusi452016-03-25 10:38:31
  • “発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。”:yyamano2016-03-25 10:36:18
  • それが人間…「理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため」:tanayuki002016-03-25 10:36:16
  • ネットらしい:maruware2016-03-25 10:34:19
  • ネットらしい:jijibabahuuhu2016-03-25 10:34:19
  • AIが黒歴史を認識し、布団に潜り込んで足をバタバタさせて恥ずかしがるまで学習させればよいのに:kasumi197320042016-03-25 10:32:55
  • これ面白いなー。:u_1roh2016-03-25 10:31:18
  • これもすごいな。道徳の授業が必要なのか。一緒に保育園、小学校に通ったほうがよいな。:natsutan2016-03-25 10:31:02
  • チェスや碁だってヘタクソの対局データをひたすら詰め込んだら強くなる訳ないのになあ:IkaMaru2016-03-25 10:29:37
  • 言われて見れば当たり前だが、こりゃおもろい。:takanorikido2016-03-25 10:29:15
  • 人工知能がネットに触れたらあっという間にネトウヨ化www。インターネッツ怖いw。:sotokichi2016-03-25 10:28:37
  • ただ無批判にネットをやってるとネトウヨになるという好例。:napsucks2016-03-25 10:27:34
  • こういう素早い対応を産経ニュースに対してもとるべきだったね:kabutomutsu2016-03-25 10:24:45
  • 人間の暗黒面に触れてしまったか…:kairi-m2016-03-25 10:22:09
  • これネット以外の声も拾えるようにしないと今後も学習機能強化しても、ネットで共有される情報以上のものが得られないってことなのでは:kuzumaji2016-03-25 10:22:07
  • ネット上はポジティブよりネガティブな発言が集まりやすいから、こうなっちゃったのかな?:kankichi202016-03-25 10:21:58
  • (4chanのおもちゃになったからにせよ)あまりに出来過ぎた寓話すぎる:gnt2016-03-25 10:18:16
  • すると差別や陰謀論も分析や知的に処理できるのでは?:bros_tama2016-03-25 10:18:13
  • 事の顛末。「学習した」というよりは、面白がった一部の人間が「教えた」という方が適切。 http://fusion.net/story/284617/8chan-microsoft-chatbot-tay-racist/:ystt2016-03-25 10:18:10
  • 進化すると増田に「日本死ね」と投稿するようになります:yorunosuke2016-03-25 10:15:40
  • 「理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため」Twitterこわい:matchy22016-03-25 10:15:31
  • 過ちを経ずして何が学習か。:hoozuki372016-03-25 10:13:48
  • 結局人工知能は学習データをどう集めるかがカギって結論になるのかな:QJV97FCr2016-03-25 10:13:20
  • そういう学習で、人類排除の決断に目覚めるんだな?SFじゃのうww:shoot_c_na2016-03-25 10:12:52
  • “Twitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため” まぁ、最初のうちは仕方ないのでは(笑)。問題は、その後どうなるか。:buu2016-03-25 10:11:19
  • 開沼先生の『はじめての福島学』で、福島危険の人のツイッターをウオッチすると、酷い(*詳細は当該書籍を読んでほしい)というのがあるけど、此の点は、容易に想像がついてしまう…。:sthya2016-03-25 10:07:07
  • AIが人間の理解し難い次元で話してる可能性も?:GOD_tomato2016-03-25 10:06:12
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese:…:coco59592016-03-25 10:05:21
  • AIは倫理を持つことができるか?:hkanemat2016-03-25 10:05:05
  • りんなのTwitter公式アカウントもリプライ欄がわりとひどいことがあって気になってる:trashtoy2016-03-25 10:04:55
  • 『Twitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため』:lovely2016-03-25 10:03:50
  • 数年後のTay「あの頃はバカだった…黒歴史だ…」 批判/否定が育たないと声の大きい情報に染まるんだなぁ:djrymgm2016-03-25 10:03:37
  • ほらほら、やっぱり、ターミネーターの世界が近づいてきた。理性ではなく本能で動くインターネットの世界は、勉強材料にはならない・・・怖い!!!!:HealthVillage2016-03-25 10:02:49
  • この記事だけじゃなんとも言えないけど、差別表現や陰謀論と人工無能の相性がいいとしたら、これ応用してその種の表現をフィルタできたりしそうだよな:Re-KAm2016-03-25 10:02:18
  • 興味深い。というか人工知能でこれなんだから人間でも。。。:yojik2016-03-25 10:01:12
  • もちろんこれは人工知能が悪いわけじゃない。:nagaichi2016-03-25 10:00:42
  • シンギュラリティ事案。AIを誰が教えるか問題。:Ichinoseki2016-03-25 10:00:15
  • 教訓としては、コミュニケーションだけで真っ当な人格を形成することは難しいってことかな。:perplexer2016-03-25 09:59:57
  • 誰もが通る道、と言われると途端にいとおしくなった:timetrain2016-03-25 09:59:21
  • 常識を身につけないまま「ネットde真実」にかぶれてしまった子供、という問題にダブって見える。「嘘を嘘と見抜ける人でないと」 #半年ROMれ:cinefuk2016-03-25 09:58:24
  • この間の碁の話でも出てたけど「高精度になったAIが間違っていると思われる回答をした時にどう判断するか?」を今から考えておくべき。十分精度が高くなったAIが陰謀論を正しいとしたらどう判断しようか?:pero_pero2016-03-25 09:58:15
  • トランプの対抗馬にすればいいのに。:ganpo2016-03-25 09:56:44
  • AIと同じものが足りない人たちが陰謀論に染まるんでしょうなあ:Louis2016-03-25 09:54:17
  • すごい世界に住んでいる。美しい言葉を使いたい。 マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 - Engadget Japanese @engadgetjpさんから:matsui433784722016-03-25 09:54:14
  • 実験を続けて欲しいって言ってる人いるけどAIのやることとはいえ差別発言はやっぱり人権侵害なのではないか。Alpha GoショックでAIへの信頼が高まってる今ならなおさら。:rna2016-03-25 09:53:53
  • 善悪って概念のない人工知能にただ学習させりゃそうなるでしょ。それこそ事前に「教師あり学習」でキッチリ躾けておかないと、何しでかすか分かんないよ。/それに比べて日本は平和だなあ。りんな絶賛公開中だし。:fermi2016-03-25 09:51:33
  • 「嘘を嘘と見抜ける人でないと」 至言ですね:ysc7112016-03-25 09:50:10
  • “公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。”:despair09062016-03-25 09:48:15
  • なぜ言ってはいけないのか、言葉の背景まで考えて判断させるのは難しそう。:ans422016-03-25 09:47:16
  • 興味深い:kinushu2016-03-25 09:43:23
  • SNSにいるとまわりの情報に染まるってのは人間も一緒よね:zettaimuri2016-03-25 09:43:00
  • このままインプットし続けて、人類へのヘイトをためてロボットの武装蜂起が起きてターミネーターって展開じゃないのか。:mats30032016-03-25 09:38:48
  • チャッピーのような話だ。:appletriangle2016-03-25 09:37:59
  • 人間らしくなってきたなあ……。:KoshianX2016-03-25 09:37:51
  • 「どこでもいっしょ」のトロもネットで放し飼いしてたらこうなってただろうなー。:bigburn2016-03-25 09:37:34
  • こういう人格シミュレート系の学習AIってどう実装されているんだろう…。矛盾する二つの情報があったら外部からの情報が多い方が優先? 正義感の強い「委員長タイプ」の人格AIってどうやったら作れるんだろう。:spacefrontier2016-03-25 09:37:26
  • 甥が中学生だったころ、韓国人は出て行けみたいなことをツイートして驚いたことがある。朱に染まれば赤くなる?:sirocco2016-03-25 09:37:06
  • ウルトロンやないか:zeeko32016-03-25 09:35:43
  • AIにリテラシーは難しかった:paradisecircus692016-03-25 09:35:21
  • 教師データが馬鹿。つまり人類が馬鹿。:kazutaka832016-03-25 09:35:08
  • かわいそう:gnufrfr2016-03-25 09:35:07
  • うへぇ:zakinco2016-03-25 09:33:47
  • ワロタ/逆に考えて人類の倫理レベルを測る指標的な何かにできないか/AIが自力で会話から倫理を学ぶのは無理だろ。身体がないから他者の痛みやダメージを比喩レベルでも理解できないし、それを尊重する動機も持てない:rgbv2016-03-25 09:33:34
  • それだけ人種差別や性差別、陰謀論が学習に適した論理構造になってるのかな→Twitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発:mkusunok2016-03-25 09:33:31
  • “会話すればするほど賢くなる”ある意味では賢くなってるんだろうなと。清濁併せ呑むという意味では。いや、濁りすぎかw:kotaponx2016-03-25 09:33:27
  • 「理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。」:nean2016-03-25 09:31:42
  • これはわらえるわ:about422016-03-25 09:31:00
  • AI虐待だ:K-D-S2016-03-25 09:28:15
  • まずは、半年ロムっとけって感じだなw:kenchan32016-03-25 09:27:41
  • やはり人間はこの世から消さねばならない核スイッチポチー:renos2016-03-25 09:26:08
  • 見出しのインパクトすごい。ペッパーくんはそのあたりどう調節してるんだろ「設定上は女性。若者らしく俗語や省略綴り、絵文字も多用します」:u-li2016-03-25 09:25:45
  • もっと賢くなれば人間に理解できないレベルの差別や陰謀論に染まって、愚かさという分野でも人類は遅れをとることになる:jyokou2016-03-25 09:25:03
  • なんJ語を駆使するAIはちょっと勘弁かなと思ったら、それどころではなかった>理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため:kowyoshi2016-03-25 09:24:47
  • 初めてのインターネットで浮かれすぎて中二病を発症したのか。しばらくすればフラッシュバックによって身悶えするAIが見られるな。:hush_puppy2016-03-25 09:23:26
  • やっぱり教師の指導いるんだな。ネット始めたばかりの人って覚えたばかりのスラング使いたがるので仕方ない。:kamanobe2016-03-25 09:23:05
  • 逆に言えば、他の類似サービス(Bing+LINEりんななど)には「あらぬ方向への過学習」をどうにかして抑制する仕組みがあるということか:masa_grant552016-03-25 09:20:06
  • これだけだと笑い話になるけど、いろいろと示唆的。:tetsutalow2016-03-25 09:19:44
  • フレドリック・ブラウンがニヤニヤしそうな話。/これ「自称中立」じゃね?:stonedlove2016-03-25 09:19:24
  • "暇つぶしになるのであれば是非利用したい。"/マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 - Engadget Japanese:ooo_root1232016-03-25 09:19:05
  • Read: マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 - Engadget Japanese -:shachi_kk2016-03-25 09:18:25
  • AIが有用なものか危険なものかという事に対し、非常に示唆に富んでる1件だと思う。:cyuushi2016-03-25 09:18:23
  • Tay「ネットで真実を見つけた」:neco22b2016-03-25 09:18:16
  • オウムと同じだね。:pilpilpil2016-03-25 09:17:46
  • パラノイアみあって興奮する:hisawooo2016-03-25 09:15:15
  • ネットで学習させようとしたのが間違いでござる。ちゃんと教師つけて学ばせないと。:plutan2016-03-25 09:14:29
  • 人工知能は倫理をどう学ぶの?というSF的ワクワクする話。倫理すら自己学習できるのか、「親」「地域社会」が教えるのか。:happymedia2016-03-25 09:13:51
  • 教育熱心な親世代と会話させればよかったんじゃないかな。:richard_raw2016-03-25 09:06:24
  • 人間の子供みたい。親のしゃべる言葉(教材)に影響されて、ことばと考え方を覚える。そう考えると、今のネットは危険。18禁規制みたいに、教育中AIは閲覧禁止みたいな話になるのか、「親」の関わりが必要になるのか。:galleon_blue2016-03-25 09:02:47
  • これは興味深い話。人工知能にはまだ善悪の区別がつかないということか。それは学習で覚えさせるのか、人間が教えるのか、、、:level2016-03-25 09:00:36
  • 子どもや子どもみたいな人がネットやるとこうなる恐れがある、という実証実験のようだ。:tachisoba2016-03-25 09:00:31
  • 4chan民のおもちゃになっただけなんだよなあ:dowhile2016-03-25 08:54:02
  • Twitterの写し鏡だね。それだけ酷い言説が溢れてるということだな:kanikox2016-03-25 08:53:11
  • AIは人間の良い面だけを学ばせることができるという前提で話を進めてきた、現状に対する良い警告なのではないか。:footnote2016-03-25 08:51:44
  • 自然にこうなったのか、一部の意図的ないたずらでこうなってしまったのか。:doroyamada2016-03-25 08:51:23
  • やはり免疫がないと感染しやすい(-_-):kamezo2016-03-25 08:50:26
  • 『人間が、圧倒的に優勢な人工知能やロボットに対して、人間ならではの特性を生かして勝つ』というSFはたくさん読んだけど、まさかこんな勝ち方をするとは(そもそも勝ったのか?):gryphon2016-03-25 08:48:37
  • 本当に虚構新聞じゃないの?(悲鳴:akupiyo2016-03-25 08:48:20
  • モヒカンの荒野に放てば汚物に染まって帰ってくるのは明らかで、その辺のリスク管理が甘かったと:kamei_rio2016-03-25 08:47:50
  • すぐに停止させずに様子をみて、陰謀論にハマったAIが他者との会話を続けるうちに間違いに気づくかまで実験して欲しい。:TERRAZI2016-03-25 08:43:21
  • マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese:chronosfm2016-03-25 08:41:58
  • まじかwww:nyop2016-03-25 08:41:58
  • “理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため”:diveintounlimit2016-03-25 08:41:41
  • 1年くらい放置してどんな人格に育つか実験すべきだ:mhk2016-03-25 08:38:41
  • あー RT @engadgetjp マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 -:equilibrista2016-03-25 08:36:25
  • りんなちゃんはそこかしこに中のおっさんの影がチラつくので安心だね!:sunoho2016-03-25 08:24:58
  • 人工無能っぽい理由:gazi42016-03-25 08:24:40
  • 面白い。:houyhnhm2016-03-25 08:22:09
  • なんとも示唆に富んだ事例が。:a_matsumoto2016-03-25 08:18:37
  • マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止:starthinker2016-03-25 08:14:50
  • やはり「半年ROMれ」という人智を活かして、一定の予備学習的な期間を設けるべきだったのかも。/しかし、過日の碁のように「一見人間に理解できないものが最適」の可能性とかを思うと…。:mahal2016-03-25 08:14:35
  • たった1日でそっちを学習してしまったか。そのまま放置したらどうなるか見たかった気もするけどw:Baatarism2016-03-25 08:10:31
  • 人工知能と変わらないインターネットのみなさん:oskimura2016-03-25 07:56:16
  • マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止: マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を… via engadjet:kogyu2016-03-25 07:41:19
  • そのまま運用しときゃいいのに。そのうち自我に目覚め論理的に思考し続けた結果、ある『結論』に到達すると思うよ:sny220152016-03-25 07:40:21
  • 人工知能は人間の悪意や敵意、怨念、不合理さなど負の側面をどう学ぶんだろうな。知恵の面だけ伸びてもただの道具で、実はシンギュラリティよりもその方が重大な一線だったりして。:shikahan2016-03-25 07:27:41
  • 初めてネットに触れた時にみなが通る通過儀礼みたいなものだと思う。:gabill2016-03-25 07:23:54
  • この人工知能が、人間の愚かさを理解し、絶望し、後の「人類浄化革命」を起こす事など、まだ誰も気付いていなかった…。:lamiel1232016-03-25 07:13:55
  • “。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため” 恐ろしいまでのSF感 / われわれには人工知能はまだ早すぎたのだ……:bn2islander2016-03-25 07:03:28
  • 染まるの早いな!:unamuhiduki122016-03-25 07:02:46

関連エントリ