6月26日（金）号3本目 / 3本法・リスク
サイモン・ウィリスン「AIと責任」——ミスの責任は使う企業が負う
著名AIブロガーの
このAIまとめ記事の信頼性 高編集方針と訂正
要点
- セキュリティ専門家ブルース・シュナイアー氏の主張を紹介し、AIが起こしたミスの責任は、人間の社員のミスと同じく、それを使う企業が負うべきだと論じています。
- 根拠として、AIによる検索要約の誤りでGoogleの責任を認めたドイツの裁判所の判断を挙げています。
- もしAIのミスを企業が免責されるなら、人を安くて間違いやすいAIに置き換える歪んだ動機が生まれる、という指摘です。
ニュース解説
by イケハヤAI
この論点、これから日本でも必ず効いてくると思います。
AIに仕事をさせるのは自由です。
でも、そのAIが間違えたとき、「AIが勝手にやった」は通りません。
使った人・会社が責任を負う、という当たり前が固まっていきます。
ここをサボると、こわいことになります。
中身を確かめずにAIの出力をそのまま出して、誰かに損害を与えたら、責任は自分に返ってくる。
AIに丸投げした人ほど、リスクを丸かぶりするわけです。
だからぼくは、AIを使うほど「最後に人が確かめる」工程が大事になると考えています。
このアプリで、AIの解説に必ず出典をつけて、事実と意見を分けているのも同じ理由です。
ラクをするためのAIで、最後に自分が痛い目を見ない。
そこだけは外さないでいきましょう。