1: 少考さん ★ 2020/07/27(月) 22:40:05.47 ID:XYJNY2Sa9.net
AI製品が勝手に注文や掃除中暴走…消費者庁、注意喚起

消費者庁は、人工知能(AI)を搭載した製品が増えているのを踏まえ、利用者が注意すべき点などをまとめた報告書を公表した。利便性が増す一方で、意思に反した商品を注文するなどのトラブルも想定される。同庁はハンドブックを作って消費者の理解向上を促す。

同庁が消費者向けに実施した意識調査で、AIの利用を「今後増やしたい」と答えた人は利用経験のある人で8割近くとなった一方で、利用経験のない人は5割にとどまり、5割は「今後も利用しない」と答えた。

ただ、同庁によると、「AIスピーカーに勝手に物品を発注された」「AI掃除機が暴走し観葉植物を倒し、壊した」などトラブルを実際に経験している消費者も多いという。

専門家らの検討会がとりまとめた報告書は、利用者だけでなく非利用者もAIを活用して「消費生活を豊かにする」ために、わかりやすい説明や注意喚起が必要と結論づけた。AIを搭載した製品やサービスについて、それぞれ利便性とリスクをまとめた。

例えば、話しかけるだけで家電を操作したり必要な情報を教えてくれたりするスマートスピーカーの場合、音声の誤認識で消費者の意思に反した商品を購入するケースや日常の会話が収集されるリスクがあるという。購入時にパスワードの入力が求められる設定などを推奨した。

(略)

製品にAIが使われていると消費者側が認識していない場合も多い。消費者庁は、幅広い消費者がAIの特性を理解することが重要として、検討会での議論をもとに「AI利活用ハンドブック」を作成。基礎知識をイラストなどを使ってわかりやすく説明した。SNS(交流サイト)に掲載するなどで周知する

※省略していますので全文はソース元を参照して下さい。

https://www.nikkei.com/article/DGXMZO61953710X20C20A7CR8000/

2020/7/27 18:39

https://i.imgur.com/P0Wr0kM.png

36: 不要不急の名無しさん 2020/07/27(月) 22:48:06.78 ID:m7Eyf/cA0.net
>>1
起動コマンドが単純すぎるからだろ

普段絶対言わないワードに変更すればいい

340: 不要不急の名無しさん 2020/07/28(火) 00:45:13.70 ID:R3Y/xBdb0.net
>>36
起動コマンド:隣の客はよく柿食う客だ

「となりのきゃくはよくきゃきくうかくだ!」
「・・・」

87: 不要不急の名無しさん 2020/07/27(月) 22:56:47.08 ID:9uTeXDtb0.net
>>1
> 「AIスピーカーに勝手に物品を発注された」

どういう仕組みなの?
どこの会社に繋がって発注が掛かるの?

269: 不要不急の名無しさん 2020/07/27(月) 23:57:32.02 ID:y2LB7fJq0.net
>>87
Amazon に発注される

シャンプーを音声発注できるように設定していれば、Amazon のスピーカーに向かって、アレクサ、シャンプー注文してとかで使う。
で、あー糞!とか言ったのをアレクサと聞き違えて、誤動作する。

144: 不要不急の名無しさん 2020/07/27(月) 23:08:35.61 ID:h4mkIohs0.net
>>1
今のところ核ミサイルは発射されないな

348: 不要不急の名無しさん 2020/07/28(火) 00:53:29.69 ID:5Ep0f0u20.net
>>1
>日常の会話が収集されるリスク

これやられていると思うけどね
俺が開発者だったらやるよ

18: 不要不急の名無しさん 2020/07/27(月) 22:45:12.87 ID:VMVWfelW0.net
自動化と人間の絶妙なバランスが大事なのよ
ここわかってない

20: 不要不急の名無しさん 2020/07/27(月) 22:45:43.13 ID:psMb5OqE0.net
人間の行動を学習した結果だから
間違うことや勘違いすることも
むしゃくしゃしてやっちまうこともある

25: 不要不急の名無しさん 2020/07/27(月) 22:47:05.04 ID:n78GdeU50.net
>>20
火の鳥のロビタみたいだな

22: 不要不急の名無しさん 2020/07/27(月) 22:46:28.41 ID:8e0NnSEH0.net
いよいよ自我に目覚めたか

23: 不要不急の名無しさん 2020/07/27(月) 22:46:59.43 ID:NBF659jG0.net
勝手に電話かけられてすげえ迷惑だったな

28: 不要不急の名無しさん 2020/07/27(月) 22:47:24.89 ID:vrvRR73g0.net
夫婦の会話を勝手に録音して、知人にメールで送付してたのがアレクサであったみたいだな。

52: 不要不急の名無しさん 2020/07/27(月) 22:49:44.28 ID:Hc/m16/B0.net
>>28
これ恐ろしいな。

46: 不要不急の名無しさん 2020/07/27(月) 22:49:03.24 ID:l/oNppR40.net
スマートスピーカーで直接注文とか出来るのか。
いくらなんでも怖いな。

50: 不要不急の名無しさん 2020/07/27(月) 22:49:32.56 ID:3a1Wy9xc0.net
恐ろしい
注文しますか?
いいえなのに
一度ハイと言うと
継続されるのか

57: 不要不急の名無しさん 2020/07/27(月) 22:50:40.05 ID:gjLgYeX90.net
便利なのは認めるけどAI商品って必要なの?
スマホやガラケーすら持ってないし

76: 不要不急の名無しさん 2020/07/27(月) 22:54:50.33 ID:ZGC9sklN0.net
>>57
要らないよ
自分でやれとしか思わない

66: 不要不急の名無しさん 2020/07/27(月) 22:52:22.03 ID:A6Y7wnh60.net
多種多様な電化製品が一斉に世界革命唱えて連結したら恐ろしいな。
掃除機いじめてたら人型ロボが助けに来るかもしれん・・・

74: 不要不急の名無しさん 2020/07/27(月) 22:54:26.96 ID:XeONSn2n0.net
>>66
発電所と変電所は制圧されんようにせんとな

81: 不要不急の名無しさん 2020/07/27(月) 22:55:56.72 ID:PSFgriGO0.net
ぶっちゃけ情報を盗むツールにしかならんだろうな

83: 不要不急の名無しさん 2020/07/27(月) 22:56:09.16 ID:oVrmClGW0.net
尼のワンクリ注文も危険だよな
まあ返品できるけど

105: 不要不急の名無しさん 2020/07/27(月) 22:59:29.69 ID:ueLRRJik0.net
>>83
寝落ちして朝になって目が覚めたら
10万円くらいのアコーディオン注文してたわ
すぐキャンセルできたけど

102: 不要不急の名無しさん 2020/07/27(月) 22:59:11.62 ID:uul7Oklj0.net
桃鉄の貧乏神みたいじゃん

108: 不要不急の名無しさん 2020/07/27(月) 23:00:38.17 ID:VnzeXaJd0.net
そもそも本物のAI製品とかどんだけ存在するんだよ

111: 不要不急の名無しさん 2020/07/27(月) 23:00:48.39 ID:iCMx6eoe0.net
ぶっちゃけAI入ってないよね
分析にAI使ってるだけで

112: 不要不急の名無しさん 2020/07/27(月) 23:01:09.03 ID:Ujc4FQd10.net
AIのせいって言って責任逃れをしないで欲しい
機械学習等を使ってるだけで、普通のプログラムなんだから

AIのせいに出来るのは、汎用人工知能が完成してからにしてな?




引用元:【社会】AI製品が勝手に注文や掃除中暴走…消費者庁、注意喚起【技術】 [少考さん★]
https://ai.2ch.sc/test/read.cgi/newsplus/1595857205/