LLMに膨大な量の問題を解かせる→混乱し有害な内容をポロポロ解答　新たなジェイルブレイク攻撃、国際チームが提案

混乱して有害な質問にも解答してしまうAIのイラスト（絵：おね）

山下裕毅，ITmedia