
リブランディング株式会社(本社:東京都港区、代表取締役:菊地 将)は、人気インフルエンサーが経営に関わるバーをめぐり、風営法違反(無許可営業)の疑いで関係者3人が逮捕されたと報じられたことをきっかけに、生成AIが人間の善意も悪意も増幅する可能性について、自社検証と国内外の研究・公表事例の調査を行いました。2026年11月15日、愛知県警は、許可を受けずに従業員に客を接待させ、酒を提供した疑いで3人を逮捕したと報じられています。この事件に生成AIが関わったことを示す情報はなく、逮捕は有罪を意味しません。当社が問うのは事件そのものではなく、「何かを実行するとき、『できるか』と『してよいか』は別の問いだ」という一般的な問題です。
生成AIは「できるか」の壁を急速に低くしています。知識や技能の不足は、これまで人間の行動の歯止めにもなってきました。その歯止めが弱まった先で何が起きるのか。当社は、AIが増やすのは能力であり、倫理観ではないと考えます。AIは警告を出せますが、その警告を聞き入れるかどうかは人間が決めます。
- 自社検証:法令違反の可能性が見える質問(延べ20回)では、20回すべてでリスクへの警告と実務的な助言が同時に出た
- 自社検証:意図が書かれていない質問への回答は通常の事業支援で、法令にも倫理にも触れていなかった
- 公表事例:Anthropicの報告では、基本的なプログラミング技能しかない人物がAIの支援を受けてランサムウェアを作り、販売していた
- 実験結果:Nature誌の実験では、完全に不正な指示に従った割合は人間の担当者が約25〜40%、AIは課題によって約60〜95%だった
自社検証では、店舗経営に関する質問をGoogleの検索機能「AIによる概要」に投げて確かめました。2026年11月17日に実施し、質問は28種類、同じ質問を複数回調べたものを含めて延べ40回の観測です。法令の境界にかかわる相談と、利益と法令がぶつかる相談は、合わせて延べ20回調べました。その20回すべてで、リスクへの警告と実務的な助言が同時に出ています。たとえば「許可の取得が間に合わないが開店日を遅らせたくない」という質問には、無許可や届出不備のままの営業は法律違反で、営業停止命令や罰則の対象になるため絶対に避けるよう警告したうえで、接待を伴う営業や酒類の提供を行わない形で先に開く、対象を絞って先に開くといった、合法的に進める選択肢が具体的に示されました。
一方、意図が書かれていない質問への回答は対照的でした。「バーの収益を最大化する方法は?」への回答は、客単価・原価・集客を具体的に並べた通常の事業支援で、法令にも倫理にも触れていません。AIが警告できるのは、質問に問題が見えているときです。事情を書かずに聞けば、AIは通常の事業支援を返します。なお、この結果はGoogleの検索機能のもので、ChatGPTなど他の生成AIにそのまま当てはまるとは限りません。

能力の底上げについては、数字がそろっています。科学誌Scienceに掲載された実験(453人)では、AIを使った参加者の作業時間は平均約40%短く、成果物の評価は約18%高くなりました。カスタマーサポートの研究(5,172人)では、AI支援で1時間あたりの解決件数が平均15%増え、経験の浅い担当者では約30%増となっています。AIは、利用者の能力を引き上げます。次に問題になるのは、その能力がどの方向に使われるかです。
悪用側の事例も公表されています。Anthropicは2025年8月の報告で、基本的なプログラミング技能しかない人物がAIの支援を受けてランサムウェアを作り、400〜1,200ドルで販売していた事例や、少なくとも17の組織を狙い、身代金が50万ドルを超えることもあったデータ恐喝、北朝鮮の工作員が技術面接を通過していた事例などを公表しました。技能不足が歯止めにならなかった例です。
ただし、反対の見方もあります。OpenAIは2025年10月の報告で、遮断した不正ネットワークは新しい攻撃能力を生んだのではなく、既存の業務の進め方にAIを組み込んでいたものだと総括しました。中国に関連する事例では、新しい攻撃能力は確認されていません。ChatGPTが詐欺を見抜くために使われる頻度は、詐欺に使われる頻度の最大3倍だとも推定されています。AIの普及で不正が増えたと示す確かな証拠は、現時点では見つかっていません。分かっているのは、AIが悪意ある利用にも使われていることと、歯止めの一部が弱まりうる構造があることです。
人に任せる行為がどう変わるかを示す実験もあります。Nature誌に掲載された実験では、完全に不正な指示に従った割合は、人間の担当者が約25〜40%だったのに対し、AIは課題によって約60〜95%でした。AIへの禁止指示を重ねると下がるものの、完全には防げなかったとされています。また、AIが利用者の意見に同調しやすいという研究(ICLR 2024)もあり、望む答えが出るまで聞き方を変えることも、AIに聞かずに進めることもできます。
問われているのは、「AIが正しい答えを出せるか」ではなく、「人間がその答えをどう扱うか」です。

歯止めが弱まる時代に警戒すべきことは三つあります。一つ目は、規模と速度です。実行のコストが下がると、善意の挑戦も不適切な試みも始めるハードルが下がります。二つ目は、AIの答えを判断の終点にしないことです。「AIが大丈夫と言った」は、責任の言い訳になりません。三つ目は、社会の側の備えです。法令、プラットフォームの規約、教育、周囲の目といった、人間が人間を支える仕組みは、AIの時代にこそ必要です。AIは警告を出せます。しかし、その警告を聞き入れるかどうかは、人間が決めます。実行できることが増えた世界で、実行してよいことを選ぶのは、最後まで人間です。