AI倫理・AIガバナンス

AI がなぜその結果を出したのか、根拠を人が理解できる形で示せるようにする技術・考え方

XAI は Explainable AI の略。ディープラーニングは中身が複雑で、判断の理由が見えない
（ブラックボックス）になりやすい。
融資の審査や医療診断のように理由の説明が求められる場面では、説明できなければ使えない。

AI の処理の流れの中に人間を組み込み、人が確認・判断・修正する仕組み

AI の出力をそのまま使わず、最終的な判断や重要な場面で人が関与する。
誤りや偏りを人が止められるので、AI の判断の責任を人が持つことにもつながる。

利用者が入力したデータを、AI の学習などに使わせないよう申し出る（止める）ための方針・手続き

オプトアウト方式では、何もしなければ入力データが学習に使われることがある。
業務で使う前に:

• 入力データが学習に使われるか、止める設定があるか
• 機密情報や個人情報を入力してよいか（社内ルール）

を確かめる。入力した情報が他の利用者への回答に混ざるおそれがあるため。

生成 AI が、事実と異なる内容や存在しない情報を、もっともらしく出力すること（幻覚）

AI は「それらしい続き」を作るので、自信ありげな文体でも誤っていることがある。
存在しない論文・判例・URL を挙げる、が典型。
出力をそのまま使わず、一次情報で裏を取る。

どれも「AI の答えを検証なしに使わない」ことが対策の基本。

学習データに含まれる偏り（バイアス）を、AI がそのまま学んでしまうから

特定の性別・人種などについての偏見がデータにあれば、出力にも表れる。
採用や評価に使うと不公平な扱いにつながるので、倫理・法的リスクになる。

AI を使って、人をだます・傷つける目的の情報が作られ、流されること

詐欺メールの文面、偽の口コミ、特定の人を攻撃する文章などを、
生成 AI で大量に・手軽に・自然な文で作れてしまう。
情報倫理でいう悪意ある情報・偽情報が、AI で量産しやすくなったのが問題。

AI（ディープラーニング）で作った、本物そっくりの偽の画像・動画・音声

有名人の偽動画や、上司の声を真似た電話による送金詐欺などに使われる。

最先端の、非常に高性能な汎用 AI（フロンティア AI）がもたらしうる、深刻で広範囲なリスク

例：サイバー攻撃や危険物の開発への悪用、人が制御・理解しきれない振る舞い。
能力が高いぶん、一度悪用されたときの被害が大きいので、
開発段階からの安全性評価や国際的な協調が求められている。

対策は、入力してよい情報のルールを決め、オプトアウトポリシーを確かめること。