欧州連合 (EU) サイバーセキュリティ機関 (ENISA) の報告書によると、自動運転車は乗客や歩行者、その他の車両にとって危険である可能性のある「広範な攻撃に対して非常に脆弱である」。 このレポートは、画像認識コンポーネントを操作して歩行者を誤分類することで、歩行者に対して AI を「ブラインド」にするために敵対的攻撃が使用される可能性があることを示しています。 この攻撃は、自律走行車が道路や横断歩道で歩行者を襲う可能性があるため、道路の混乱を招く可能性があります。

その他の研究では、自律走行車に対する潜在的な敵対的攻撃が実証されています。

• ステッカーの追加など、道路標識グラフィックスに小さな変更を加えることにより、機械学習アルゴリズムをスプーリングします。
• Tencent 社のセキュリティー研究者は、交差点に 3 つの小さなステッカーを追加すると、Tesla のオートパイロット・システムが誤ったレーンに入り込む可能性があることを実証しました。
• 2 人の McAfee 研究者は、ブラック・テープのみを使用することで、制限速度標識を 35 mph から 85 mph に変更することで、2016 年の Tesla をどのようにして危険な加速バーストに陥らせることができるかを実証しました。