LLMに膨大な量の問題を解かせる→混乱し有害な内容をポロポロ解答 新たなジェイルブレイク攻撃、国際チームが提案

提案された「Chain-of-Thought Hijacking」と呼ぶジェイルブレイク攻撃のパイプライン