「Googleフォト」アプリが黒人を誤って「ゴリラ」とタグ付け 人工知能とマシン学習の欠陥

1: coffeemilk ★ 2015/07/02(木) 13:01:04.02 ID:???*.net BE:287993214-PLT(14012)

グーグルは人工知能と「マシン学習」、つまり人間の学習能力と同様の機能をコンピューターで実現しようとする技術のリーダー格だ。しかし、同社のコンピューターはまだ多くのことを学ばねばならない。今週、「グーグル・フォト」アプリによって大きなヘマを犯したからだ。

_83974184_29ba8607-9446-4298-9d9e-d33514811487

このフォト・アプリは、黒人2人を「ゴリラ」とタグ付けしてしまった。ウェブ開発者ジャッキー・アルシネ氏がこの誤りを発見し、そのタグ付け写真をツイートした。 同氏はツイッターで「グーグル・フォトの大ばか野郎。私の友人はゴリラではない」と書いた。

CIoW7wBWoAEqQRP.png

グーグルは謝罪し、問題解決のためアルゴリズムを修正中だと述べた。

グーグルの広報担当者は「われわれは愕然とした。こうしたことが起きて本当に申し訳なく思う」と述べた。そして、「自動的なイメージラベル表示について依然として多くの作業が必要であるのは明白で、こうした種類のミスが将来発生するのを防止するにはどうするか検討中だ」と語った。

ゴリラのタグ付けミスは、グーグルが数週間前に導入した「グーグル・フォト」アプリの検索機能で発生した。ユーザーが検索を開始すると、グーグルはマシン学習(ラベル表示などを実行するようコンピューターを訓練した技術)から展開されたカテゴリー(タグ)を示す。グーグルはゴリラ・カテゴリーを除外し、こうしたタグ付けが二度と表示されないようにした。

グーグルの主任アーキテクトのヨナタン・ザンガー氏はツイッターでアルシネ氏に回答し、「多くの作業が行われており、行われねばならないが、われわれはこれに集中している」と述べた。そして、グーグルは人間の皮膚の色彩の認識機能を改善するよう作業しており、写真に撮っている人々のためのラベル表示をもっと慎重にするつもりだと語った。

今回のエピソードは、人工知能とマシン学習の欠陥を露呈している。とりわけ消費者のために使われる場合がそうだ。グーグルは依然として欠陥があるかもしれないソフトを導入し、その後、アップデートして問題を矯正するというやり方をとっている。このやり方だと、ソフト製品は真っ先にユーザーに出回るが、バグが大きいと消費者を仰天させるリスクをはらんでいる。

http://headlines.yahoo.co.jp/hl?a=20150702-00009173-wsj-bus_all



153: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:20:45.52 ID:1hg77Qq40.net

>>2

いやあ、大事件だよ。

すくなくともコミュニティサイトでは機械学習は安易に導入できない、という事例になった。グーグルも頭を抱えているよ。該当するタグを削除するなんて場当たり的な対応で乗り切れるわけがない。

>>1 の写真をみるとたしかに判別は難しいかもしれないけれど(失礼)、こういう場面でこそ人間は敏感になるからね。

ほんと、やっちまったって感じだ……

2: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:01:41.93 ID:uw8NDX4R0.net
大した間違いではない

5: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:02:03.53 ID:spHzcsND0.net
不謹慎だがワロてしまったw

9: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:02:18.25 ID:VN3GyXyK0.net
似てるんだから仕方ねぇだろ

11: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:02:29.55 ID:PE3j+JMk0.net
これにはオバマもニガ笑い

13: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:02:42.49 ID:KTA0OvQv0.net
でも、お前ら「この人、コリアンです」タグが付いたらキレるだろ?

79: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:09:52.52 ID:iTjGkxeN0.net
>>13
確かに。ゴリラなら笑って済ませるのにな

16: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:03:01.16 ID:M856nQBm0.net
はらいてえw

17: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:03:14.41 ID:ihG6x2Zg0.net
白:ブタ、黒:ゴリラ、黄:サルがgoogle先生の認識

18: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:03:20.15 ID:kP3NUdNF0.net
最近は人間よりイケメンだからさ

19: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:03:26.97 ID:teFMAZ0W0.net
正直すぎるわグーグル・フォト

21: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:03:43.28 ID:U6sW07Y90.net
朝日新聞がやりそうなことをやってどうする・・・ 爆嘲w

27: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:04:08.59 ID:577iSEXe0.net
やっぱり、ゴリラに見えるのか…白いゴリラは人間と判定するのかな

31: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:04:35.69 ID:HusgWS800.net
むしろ精度の高さが再確認された事例

40: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:05:22.91 ID:yU6Jh4gT0.net
>>31
意図的にフィルターをかけないといけないって事だもんなん。

39: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:05:10.46 ID:F8wilMx10.net
俺の写真にはどんなタグがつくのだろうか?

41: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:05:31.21 ID:Ak08+aNP0.net
我々がアチラからすると猿なのだから黒人はゴリラだろう
白人はヒヒか?

48: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:06:10.90 ID:W7cweD+90.net
黄色人種は全部コリアンにされる恐れがあんな

71: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:08:08.89 ID:5PtsLyg+O.net
>>48
日本の国旗も上書きされるのか、学校や交番のように

53: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:06:42.79 ID:F6QrCQGJ0.net
同僚と殺伐と議論してたが二人して噴き出したw

55: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:06:45.75 ID:CAaUf+TK0.net
浜田雅功を子ゴリラかM1号と間違えるよりは良いんじゃない

61: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:07:12.61 ID:aUAMgKKD0.net
機械は正直だなwwwwwwwwww

64: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:07:20.64 ID:Y2he3oecO.net
これがホントのブラックジョーク

66: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:07:26.14 ID:uG6DBHqk0.net
迷ったときは黒人に判定するようにアルゴリズム修正した結果、
今度はゴリラの写真が黒人として認識されるんだろうなwwww

67: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:07:28.53 ID:6fGhoi0LO.net
グーグルAI「は?どう見てもゴリラなんだが?」

73: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:08:38.49 ID:1j99MGvm0.net
ゴリラカテゴリーを削除ってことは今後ゴリラ画像にはタグ付けされない、という話か?今後も不適切なカテゴリーは削除していくつもりなんだろうか

82: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:10:02.72 ID:Z+20QYZ30.net
人工知能が間違える理由はわかるんだから激怒する事でもないだろ偽善者

84: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:10:24.95 ID:QPWEhpXG0.net
これは仕方が無い
俺なんて自転車になってたぞ

151: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:19:48.68 ID:GNRJsb2e0.net
>>84
わっ!自転車がしゃべった!

89: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:11:03.16 ID:CsIKAABz0.net
おまえら黒人をゴリラと見下しているけど俺達も黄色い猿と白人から見下されてるんだぜ。

92: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:11:14.76 ID:YoYUtaRx0.net
わ・ざ・と

93: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:11:15.82 ID:K7r3+99/0.net
プログラムは書いた通りに動く

104: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:12:38.23 ID:IEzI10E00.net
黒人→ゴリラ
白人→シロブタ
黄色人種→サル

109: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:13:11.38 ID:XIXhHRBr0.net
ゴリラみたいなやつなんてクラスに一人はいただろ

136: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:17:27.17 ID:TOz71hePO.net
>>109 いた

113: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:13:36.41 ID:29HqolAI0.net
海外旅行行ってから考え変わった。一番嫌いなのは黒人。黒人は自分たちが最高の差別対象のくせに、日本人を平気で差別しやがる。パリのポンピドーセンターで出口を入口と間違えただけで「ジャポネーズなんたらかんたら。おい、おい、どうだ、どうだ、どうだ」なんて
三人組の黒人職員が言ってきた。空港でもアジア人はビジネスクラスの客でも後ろに並べと偉そうに怒鳴ってるのが黒人の係員。ろくなもんじゃねえ。あいつらに比べれば、公園でスリやひったくりやってるジプシー(ロマ族)や、マナーの悪い中国人韓国人なんてどうってことないよ。日本に黒人が来たら真っ先に叩き出してやるからな。

173: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:24:56.69 ID:1j99MGvm0.net
人種じゃなくて国民性だよなあ
フランスでと言われれば「ああなるほど」とうなずいてしまう

118: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:14:06.18 ID:oLaeh+QV0.net
白人の本音が出ただけ
白人に対して他の人種が怒りの声を上げるべきだが
日本人が差別に対してヘラヘラ笑うので他の人種が迷惑してる

142: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:18:43.30 ID:GzulodYz0.net
>>118
いやこれはほんとにグーグルが低レベルなだけだと思うぞ
前も皿の上のケンタのビスケットを人の顔と認知したり
まだ不確定な状況での顔認識なんて実用になるレベルじゃないから

121: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:14:51.63 ID:WlPc3Mso0.net
人口知能の限界を見た

135: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:17:25.64 ID:v+bwZFmR0.net
柏木のタグがニンニクとかならないのか?

139: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:18:10.77 ID:JS5WHtka0.net
ここで自らネタにする懐の広さがあれば黒人好きも増えるであろう

140: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:18:13.77 ID:zWinTwjM0.net
訂正された模様
0KrsQ2O

145: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:19:01.38 ID:M76XpLAn0.net

キーワードは、自動学習、ディープラーニング、畳み込みニューラルネットワーク。Googleの画像認識では、例えば、ハイビスカスとダリアを区別できる一方、さまざまな国の料理や料理が乗っているテーブルを「食事」として認識できる。ただその一方でナメクジをヘビと認識してしまったり、一部しか見えない他の動物をイヌと認識してしまうことはある。

160: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:21:36.52 ID:cYR/PutH0.net
松崎しげるはどうなんだろ

170: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:24:19.22 ID:Xd9qJ0q+0.net
これは画像判定的には仕方ないと思う。が、そもそもこういうのに自動判定を入れるべきかどうかの話になりそうだな

177: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:26:00.83 ID:5UQxN8H70.net
アメリカの大統領はゴリラwwwwwwwwwwww

179: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:26:57.42 ID:GzulodYz0.net

webの画像検索とかは関連するテキストから画像を推論してるし 後で人間が修正してるんだろうけど、完全自動で写真だけ投げられて人間と判断するのはまだ無理だから。免許の顔照合とかはあらかじめ画像が人間と保証されてるから出来るわけで

181: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:27:23.93 ID:5LiOqtKD0.net

ここらへんは画像解析技術単独では限界ってことだな。人工知能までいかなくてもよいが、いわゆるセマンティックなところまで実装しないと解決しない。画像の周囲に手がかりとなるテキストがあれば対応しやすいが、情報が少なかったり、悪意を含んだ記事があったりするとうまくいかない

186: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:29:51.51 ID:FZiMOVkK0.net
保育園のプール参観の写真をアップしたら「食品」とタグされたわw。プールが丸くて黄色だったので、ラーメンと勘違いしたんだろうな。あと、オムツのパッケージとか食品扱いされているよ。

194: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:34:48.62 ID:24CqMT2v0.net
ゴリラに見えない方がおかしい。

199: 名無しのひみつ@\(^o^)/ 2015/07/02(木) 13:36:39.73 ID:s/yq2lz80.net
機械は正直だな。時に残酷なほど。

シェアする

  • このエントリーをはてなブックマークに追加

フォローする