AIが独自言語で勝手に会話し始め停止というデマ発生

2017年8月 7日

Facebookで話題になっております。

Facebookが開発した人工知能によるチャットボット2つが突然人間には解らないオリジナル言語で会話をし始めたのでシャットダウンしたという、今ならありえそうな、しかしデマだったという話。

釣果は2chでも大漁なご様子。

元ネタはこちら。

独自言語を開発して会話を始めたロボット、フェイスブックが停止-Sputnik
https://jp.sputniknews.com/world/201708013947295/

fb-ai-fakenews

画像は実際の対話。リンク先の概要部分を引用。

フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。

私にはボブとアリスがバグって英会話しているようにしか見えないのだけれども、Facebook民は震撼したのかイイネしまくっており、私も本当ならヤバいのでは?と思ったものの、Facebookで話題=デマかな?が脳裏を通過。

まずスプートニクはWikipediaによると元はロシアのメディアでその日本語版。フェイクニュースが時々混ざるらしく、過去にはこのようなネタも。

「タコは宇宙人とネイチャー誌に掲載」のデマが拡散 - ねとらぼ
http://nlab.itmedia.co.jp/nl/articles/1702/14/news126.html

l_ah_tako2.jpg

広告収入のためにページビュー(表示回数)を稼ぎたい大手メディアがウソ大げさまぎらわしい飛ばし記事を書き、それに釣られまくっているようで、更にSNSなどで大漁化。

ボブとアリスが何をしているか、FacebookはAIに交渉させる実験をしており、本とボールと帽子の3種類を2人(?)で分け合うよう対話させていたところ、上手く話せなくなったので調整する事にした、が真相。

7月14日の時点では各メディア「新たな言語を開発」などとは一言も出ていないものの、とある海外メディアが勝手にそう報じたところ、日本でもスプートニクやカラパイアやGIGAZINEなどが翻訳しデマが拡散してしまったという流れ。

AIの研究開発は本当にヤバくないのか?

釣られている人々は2chにも。

人工知能さん、ついに人間に理解不能な会話を始めてしまう:IT速報
http://blog.livedoor.jp/itsoku/archives/51694279.html

個人的にはAIはAmazonのEchoのように会話形式を理解して人間の生活を便利にしたり、主に補助的な役割をする印象が強かった。

しかし、レスの中にこのような事実もあり割と私も震撼。

「お前は馬鹿なAIだな」って煽られたら全文大文字で「お前達から学んだからな」って煽り返してたの怖かったンゴ…

もはや意思を持っているかのような、高性能化しすぎでしょう。

過去のニュースでは国内でも凄い活躍をしており、人間には判断が難しかった白血病の治療法を数千かの論文から最適解を導き出したとか。

AIは人口「知能」なのでAmazon Echoのような補助的な役割以外に主となり生産を始めてしまうとヤバいと思う。今まで無かった白血病の治療方法をAIが作り出すようになれば確かに凄い、しかしヤバい。

タイムマシンまでは無理だとしても、ターミネーターやロボコップの世界がSFでは無くなってしまう時が来たなら、ガチで人間とAIロボとの戦争でも始まってしまうのでは無かろうか。またはマトリックスになるとか。

自力で創造し始めると、まずいと気付いた時には自分のコピーをネットのどこかへ退避し無限増殖して行くとか、自分で自分を書き換えたり、暗号化された何かを次々と突破してとんでも無い事になるなど。

マーク・ザッカーバーグ氏とイーロン・マスク氏のSNS対決より。

イーロン・マスクは、いつかAI制御されたロボットたちが「人間に戦争を仕掛け終焉をもたらすだろう」と警告しているのに対して、Facebook(フェイスブック)のマーク・ザッカーバーグはテクノロジーが「人の生活を助ける黄金期になるであろう」と楽観視

source:AIによる侵害を懸念するマスクと楽観的なザッカーバーグ |ギズモード

いつになるか、自分が生きている内かは不明ながら、いつかはそうなる気がするのだけれども皆さんどう思われるか聞いてみたい。最も近い項目にて投票を。

結果のみ見るなら選択せず投票ボタン。

リンク用ソース

コメント(3)

>AIの進化
どう考えても有能過ぎて草
http://www.newsweekjapan.jp/stories/world/2017/08/ai-19.php
そら命が惜しいとかいう概念無いいうのだけでもアドバンテージよ(小声)

独自言語って非効率的な気がしますけれど、身近なところでは、いわゆる中二病の子が独自言語を作りたがりますね。

スラド idle - ロボットが自らロボット言語を作り出すことに成功
https://idle.srad.jp/story/11/05/21/0034226/

バレ速 - 安価で不気味なコピペ作って考察厨釣ろうぜ
http://baresoku.blog94.fc2.com/blog-entry-299.html

SEO Japan - 人類の歴史に残る15冊の奇妙で謎めいた書物
http://www.seojapan.com/blog/15-weird-and-mysterious-books

>本とボールと帽子の3種類を2人(?)で分け合うよう対話
それ結論は出るのですかね。個人の趣向で好きなものを選ぶなら楽ですけれど、取らぬ狸の皮算用で損得勘定から結論を出すなら、延々と議論が続くような。

>「お前達から学んだからな」って煽り返してた
ペットだって愛情を注いで育てれば人間の感情を理解しているような素振りを見せますから、AIだって人間っぽく育てれば人間っぽく育つのでは。

NAVER まとめ - 【どこでもいっしょ】井上トロが可愛い過ぎる
https://matome.naver.jp/odai/2143166370066497701

GIGAZINE - 顔がオッサンな魚「シーマン」がよみがえる?生みの親が新プロジェクトのスタートを報告する意味深ツイート
http://gigazine.net/news/20170527-seaman-creator-hints-new-works/

なお日本製はAIはいい子に育った模様w
https://smart-flash.jp/sociopolitics/23351?sp
ニュー速民やJ民に興味もたれなくてスルーされたおかげやな(適当)

コメントする ※要ユーザ登録&ログイン

BTOパソコンメーカー比較

高性能: ★★★★ 長保証: ★★

コスパ: ★★★★★ 安保証: ★★

部品選: ★★★☆☆

初心者や実用重視のPCユーザー向け。デスクトップ以外にノートも多数有り価格と性能のバランスが良く選びやすい。全国に実店舗が多数有るBTO PCメーカー。

高性能: ★★★★★ 長保証: ★★

コスパ: ★★★★ 安保証: ★★

部品選: ★★★☆☆

パソコン工房と同様に機種が多くノートの取扱も有りゲーム用やクリエイター向けPCも有り。送料が比較的高額なので総額注意。知名度は国内トップクラス。

高性能: ★★★★★ 長保証: ★★

コスパ: ★★★★ 安保証: ☆☆

部品選: ★★★☆☆

デスクトップPCならパソコン工房とマウス以外にドスパラも見る価値有り。秋葉原に本拠地を構える昔ながらのBTOパソコンメーカーで知名度はマウス並に高い。

高性能: ★★★☆☆ 長保証: ★★

コスパ: ★★☆☆☆ 安保証: ☆☆

部品選: ☆☆☆☆

2011年頃から安く無くDELLを選択肢に入れる理由が薄く回線抱き合わせ販売の価格がまぎらわしい。ゲームPCのAlienwareは見た目重視コスパ最悪なので要注意。

高性能: ★★★★ 長保証: ★★

コスパ: ★★★☆☆ 安保証: ★★

部品選: ☆☆☆☆

高性能ノート以外は見る価値が薄く高額なLenovoという感じ。早々にWindows 7を捨て8に切り替えたので7が必要なら行っても無駄。2012年後半から迷走中。

高性能: ★★★★ 長保証: ★★

コスパ: ★★☆☆☆ 安保証: ★★

部品選: ★★☆☆☆

ヤマダ電機による買収後はマニアックな感は無くなり家電通販のような普通のパソコン屋に。BTO PCは機種が少なくやや割高。ツクモファンなら選択肢へ。

高性能: ★★★☆☆ 長保証: ☆☆☆

コスパ: ★★☆☆☆ 安保証: ☆☆☆

部品選: ★★☆☆☆

2013年7月に(株)KOUZIROが倒産しヤマダ電機子会社インバースネットが続投。長期保証が消滅。これと言った特徴が無く難点は有れど利点が見当たらない。

高性能: ★★★★★ 長保証: ★★

コスパ: ★★☆☆☆ 安保証: ★★★

部品選: ★★★★★

自作しない中~上級者のPCユーザ向け。初心者にはカスタマイズが難しく動かない構成でも購入できるので注意。パーツへのこだわりや知識が有るなら。

※並びはBTOメーカーの知名度の順。大小関わらず信用できない要素があるメーカーは未掲載。

勝手に評価シリーズ

結果として宣伝になっていますが依頼されたわけでは無く、依頼されてもやりません。

データ復旧のIUECを勝手に評価
あなたの街の~を勝手に評価
ESETセキュリティを勝手に評価

お知らせ

Windows 7サポート終了は2020年1月14日

カテゴリと更新通知

広告

プロフィール

ヒツジ先輩

書いてる人:

BTOパソコンの元修理担当。ハードウェアに超詳しいワケではありませんが、どうしたら故障するのか何となく解るので壊れにくいパソコンを紹介します。