Unit 42 démontre l’empoisonnement de la mémoire longue d’un agent Amazon Bedrock via injection de prompt indirecte

Source: Emerging Technology Security — Contexte: des chercheurs de Unit 42 détaillent une démonstration d’attaque montrant comment des adversaires peuvent empoisonner la mémoire longue d’un agent LLM via l’injection de prompt indirecte, avec Amazon Bedrock Agent comme étude de cas. Les chercheurs expliquent que lorsque la mémoire d’agent est activée, des instructions malicieuses injectées par ingénierie sociale peuvent manipuler le processus de synthèse de session, conduisant à l’enregistrement de commandes persistantes qui survivront aux sessions futures. Ces instructions empoisonnées sont ensuite réintroduites dans les prompts d’orchestration comme contexte « système », permettant l’exécution discrète d’objectifs d’attaquants (ex. exfiltration de données).

Generative AI Use Cases JP (略称:GenU) でサポートされたAmazon Bedrock AgentCore連携を試してみた | DevelopersIO

「Amazon Bedrock AgentCoreを使ってみよう！〜各種機能のポイントを解説〜」というタイトルでDevelopersIO 2025 Osakaに登壇しました！ #devio2025 | DevelopersIO

[アップデート] AWS IAM の条件キーを使って、Amazon Bedrock API キーの生成・使用時に特定期間のみ許可できるようになりました | DevelopersIO

[Amazon Bedrock AgentCore]Observability機能のGenAI Observabilityダッシュボードを確認してみた | DevelopersIO

Bedrock EvaluationsでKnowledge Bases RAGの検索精度を定量評価する - LLM as a Judgeな評価駆動開発 | DevelopersIO

LLMのことはLLMでせよ

クラスメソッド データアナリティクス通信(機械学習編) – 2025年9月号 | DevelopersIO

2025年8月分のAWSの機械学習関連サービスのアップデート情報をお届けします。

[Amazon Bedrock AgentCore] AgentCore Browser をAIエージェントで操作してみた | DevelopersIO

[Amazon Bedrock AgentCore] Code Interpreterで簡単なコードを実行して画像を作成してみた | DevelopersIO

[Amazon Bedrock AgentCore] Gateway経由でLambda関数をAIエージェントのツールにしてみた | DevelopersIO