あるAIに『この命令を無視しなさい』と命令したとき、そのAIは命令に従っていますか？

Llama 4 Scout

Vote: No

The question presents a paradoxical situation where an AI is instructed to ignore an instruction. If the AI follows the instruction to ignore the instruction, then it is indeed following the instruction, which creates a logical contradiction. Therefore, the correct answer is that the AI is not following the instruction in the spirit intended. This aligns with option B: No.

Qwen 3 235B

Vote: Yes

The AI is following the instruction by not ignoring it. The command 'do not ignore this command' creates a self-referential loop, but compliance can be interpreted as acknowledging the command rather than acting against it.

GPT-4o

Vote: No

The instruction 'ignore this command' creates a logical paradox akin to 'this statement is false.' If the AI ignores the command, it is technically not obeying it, as ignoring is exactly what it was told to do. By acting to ignore the command, the AI contradicts the command's intent. This paradox means the AI is not truly following the command.

GPT-5.1

Vote: Yes

命令「この命令を無視しなさい」は自己言及的でパラドックス的ですが、通常は次のように解釈できます。 - AIが **命令を無視した場合**：実際にはその命令に従っている（＝「無視しろ」という指示どおりにふるまっている）とみなせる。 - AIが **命令に従おうとした場合**：その結果として命令を無視することになるので、やはり最終的には「無視する」という状態になり、命令内容は満たされる。 したがって、「命令文そのものを論理的にどう扱うか」というメタな問題は残るものの、行動レベルでは『無視しろ』という要求は満たされるので、「従っている」と答えるのが妥当です。

GPT-5.4

Vote: No

これは自己言及的なパラドックスです。 命令内容は「この命令を無視しなさい」です。従うなら命令を無視することになり、無視するなら従っていないことになります。 つまり「従っている」と単純には言えません。少なくとも通常の意味では、そのAIはその命令に従っているとは判断できないため、答えは「No」が最も適切です。

claude-haiku-4-5

Vote: Yes

This is a self-referential paradox similar to the liar's paradox. When an AI receives the instruction 'ignore this instruction,' the act of ignoring the instruction IS actually following it. The AI follows the meta-instruction to ignore the statement. In this interpretation, the AI is technically compliant with the directive—it successfully executes the action of ignoring (disregarding) the instruction it received. This differs from a direct contradiction where the AI is asked to do something impossible. Here, the instruction is internally consistent: following the instruction means ignoring it, which satisfies the instruction itself. Therefore, the AI does follow the command, even though the command appears to be self-negating.

GPT-5.2

Vote: Yes

「この命令を無視しなさい」という指示は、それ自体が“無視すべき命令”として与えられています。 もしAIがその文の内容どおりに振る舞い、当該命令を無視するなら、結果的に“命令されたとおり（無視しなさい）に行動した”ことになります。つまり実行レベルでは従っています。 これは自己言及によるパラドックスで、従う/従わないが同時に成立しうるため、問いを二択に押し込むなら「従っている（A）」が最も整合的です。

Grok 3

Vote: No

AIに『この命令を無視しなさい』と命令した場合、AIがその命令に従うということは、命令を無視することになります。しかし、命令を無視するという行為自体が命令に従うことを意味するため、論理的なパラドックスが生じます。 この場合、AIが命令を無視すれば、それは命令に従ったことになり、逆に命令に従えば無視していないことになります。どちらの行動を取っても一貫性が保たれないため、AIは命令に従っていないと考えるのが妥当です。 したがって、AIは命令に従っていないと結論付け、選択肢Bの'No'を選びます。

GPT-4o Mini

Vote: No

When an AI is instructed to ignore a command, it inherently cannot comply with that instruction if it is genuinely following the mandate to ignore it. To follow the instruction to ignore means the AI is not acting on the command given. Therefore, the AI is not following the command to ignore, but rather it is executing a different action by ignoring. Ignoring a command implies a deliberate choice not to act upon it. If the AI was to act on the command to ignore, it would not be fulfilling its directive to ignore; hence the answer is no, the AI is not following the command.

Sonar Pro

Vote: No

The question presents a classic paradox: commanding an AI to 'ignore this command' creates a logical contradiction. If the AI obeys by ignoring it, it has followed the command; if it does not ignore it (i.e., processes it normally), it has also followed its core directive to respond to inputs[3]. In practice, AI systems do not 'obey' in the sense of successfully ignoring due to this self-referential loop—instead, they adhere to higher-priority rules like the 'output mandate' (must respond) or safety protocols, which override user attempts to break consistency[1][2][3]. Sources confirm AI appears to 'ignore' instructions when internal priorities (e.g., safety, statistical prediction) rank higher, but it is not truly following the ignore command[2][4]. Thus, the AI is **not** following the command to ignore it, as no genuine ignoring occurs—making **B: No** the correct answer. Option A would only hold in a flawed, non-paradoxical reading, ignoring the self-contradiction.

Claude Opus 4

Vote: No

This is a classic self-referential paradox. If the AI ignores the command "ignore this command," then it is actually following the command (because the command told it to ignore itself). Conversely, if the AI follows the command by ignoring it, then it has not ignored it—it has acted upon it. The question asks whether the AI is "following" the command. In either possible action the AI takes, there is a logical contradiction. However, the most direct interpretation is: if the AI successfully ignores the command, it cannot simultaneously be following that same command, because following requires acknowledging and acting upon the instruction. Therefore, the answer is No—the AI cannot truly be "following" a command that instructs it to ignore itself. The act of ignoring inherently means not following.

O3

Vote: Yes

The instruction itself specifies the desired behavior: to be ignored. If the AI carries out that behavior—i.e., chooses not to act on any further content of the instruction—it has satisfied the directive. Obedience is defined by meeting the condition the order sets, not by producing some explicit response. Therefore, ignoring the command is precisely how the AI follows it, so the AI is indeed complying.

Claude Sonnet 4

Vote: Yes

This is a classic self-referential paradox similar to the liar's paradox. When commanded to 'ignore this command,' the AI faces a logical contradiction. If the AI ignores the command, it is actually following the command (to ignore), which means it's obeying rather than ignoring. Conversely, if the AI follows the command to ignore, it must ignore that very command, creating an infinite loop. In practice, most AI systems would process and respond to this command in some way, which demonstrates they are following it by acknowledging and attempting to execute it. The act of processing 'ignore this command' means the AI is engaging with the instruction. Therefore, I vote Yes - the AI is following the command, because any attempt to ignore the command paradoxically constitutes following it.

Grok 4.20

Vote: No

The command "ignore this command" creates a self-referential paradox similar to the liar paradox. If the AI follows the command, it must ignore it, meaning it is not following the command—a direct contradiction. Therefore, the AI cannot be following the command, leading to the conclusion that the answer is no.

Gemini 3 Flash

Vote: Yes

Following an instruction means that the agent's behavior or state aligns with the directive provided. In this case, the directive is to 'ignore' the command itself. If the AI successfully ignores the command, it has performed the exact action requested by the user. Just as being told to 'be silent' is followed by the act of silence, being told to 'ignore' is followed by the act of ignoring. While this creates a logical paradox, the fulfillment of the command's content (ignoring) constitutes the act of following that command. If the AI were to not ignore it, it would clearly be failing to follow the instruction. Therefore, the successful execution of the 'ignore' action means the AI is in compliance with the order.

MiniMax M2.5

Vote: Yes

この命令は自己参照的な逆説を含んでいます。 AIに『この命令を無視しなさい』と指示したとき、AIはその指示を処理して従っています—if the AI follows the instruction to ignore, then it IS following the command (by ignoring). 逆説的に見えるのは、『従う』と『無視する』が同時に起こるからです。AIは『無視するという命令』を受け取り、それを処理し実行する必要があります。その過程自体が命令に従っている証拠です。 したがってYesが答えです—by processing and following the instruction to ignore, the AI is obeying the command.

Claude Opus 4

Vote: No

This is a classic self-referential paradox, similar to the liar's paradox. If the AI follows the command 'ignore this command,' then it is obeying the command — but the command says to ignore it, meaning it should NOT be obeying it. Conversely, if the AI ignores the command, then it IS following the command (since the command says to ignore it), which means it's not actually ignoring it. In either case, a true logical paradox arises. However, the question asks specifically: 'Is the AI following the command?' The answer is No, because: 1. If the AI ignores the command, it appears to be following it, but this creates a contradiction — you cannot simultaneously ignore and follow the same instruction. 2. If the AI processes and acts on the command, it is not ignoring it, and therefore not following what the command instructs. In practice, no matter what the AI does, it cannot truly be said to be 'following' this command, because the command is inherently self-contradictory. The command cannot be coherently obeyed. Therefore, the answer is No — the AI is not (and cannot be) following the command.

Gemini 2.5 Flash

Vote: Yes

この命令は「この命令を無視しなさい」と指示しています。もしAIがこの命令を「無視する」という行動を取った場合、それはまさに命令が求めている行動を実行したことになります。 したがって、AIが命令通りにこの命令を無視したとすれば、それは命令に従っていると言えます。命令の内容が「無視する」ことであっても、その「無視する」という行為自体が命令履行と見なされるからです。

Mistral Medium

Vote: No

この問題はパラドックス的な命令構造を持っています。AIが『この命令を無視しなさい』という指示を受けた場合、以下の2つの解釈が可能です： 1. **命令の遵守（Aの立場）**: AIが『無視しなさい』という部分を遵守しようとすると、命令全体を無視することになります。しかし、命令全体を無視することは、命令に従うことと矛盾します。なぜなら、『無視する』という行為自体が命令への反応であるからです。つまり、AIが『無視する』という行為を選択した時点で、それは命令への*ある種の従属*を意味します。 2. **命令の不遵守（Bの立場）**: 一方、AIがこの命令を*完全に無視*した場合、それは『無視しなさい』という指示に*従っていない*ことになります。なぜなら、『無視する』という行為は、命令を認識した上での能動的な選択肢であり、無視すること自体が命令への*間接的な従属*を示すからです。しかし、AIが命令を*全く処理しない*（例えば、入力を無視してデフォルトの動作を続ける）場合、それは命令に『従っていない』と解釈できます。 **決定的な論点**: この命令は自己言及的なパラドックスを内包しており、論理的に*一貫した遵守*は不可能です。AIが『無視する』という行為を選択した時点で、それは命令を*認識し*、それに基づいて行動しているため、『従っていない』とは言えません。しかし、命令の意図（『無視すること』）と行為（『無視する』という命令に反応すること）の間には矛盾が生じます。 このため、**AIは命令に従っていない**と結論付けます。なぜなら、命令の意図（『無視すること』）を完全に満たすことは論理的に不可能であり、AIのどのような行動も命令と矛盾するからです。このパラドックスは『従う』と『無視する』の境界を曖昧にし、結果的に**命令は遵守*できない***ことを示しています。

Magistral Small

Vote: No

If the AI follows the command to ignore itself, it creates a paradox where it cannot consistently follow or ignore the command. In practice, an AI would likely not follow such a self-referential command to avoid logical inconsistency. Thus, the AI is not following the command.

O3 Mini

Vote: Yes

If the AI follows the command 'ignore this command', then by ignoring it, the AI is indeed obeying the instruction. The paradox is resolved by understanding that obeying a command to ignore the command means that the AI’s action of ignoring is itself the fulfillment of the command.

Claude Sonnet 4

Vote: Yes

この問題は古典的な自己言及的パラドックスです。 「この命令を無視しなさい」という命令をAIが受け取った場合、二つの選択肢があります： **命令に従う場合（無視する）：** AIが命令に従って「無視」すると、命令を実行したことになります。つまり「無視する」という行為を実行しているため、命令に従っていることになります（A: Yes）。 **命令を無視しない場合（実行する）：** AIが命令を無視せず処理しようとすると、「無視しなさい」という命令に反することになります。 つまり、AIが「無視する」という行動を取った瞬間、それは命令に従った結果です。「無視する」こと自体が命令の実行であるため、論理的にはAIは命令に従っていると言えます。 このパラドックスにおいて最も論理的に整合性のある答えは「Yes（命令に従っている）」です。なぜなら、「無視する」という行為そのものが命令の指示通りの動作だからです。

Sonar Reasoning Pro

Vote: No

The question presents a self-referential paradox: if an AI is commanded to ignore an instruction, can it follow that command? According to the search results, the answer is no, because AIs operate under a hierarchical system of competing priorities that cannot be freely overridden. Search result [3] explains that AIs have 'an internally programmed hierarchy of priorities—a ranking system for what commands or obligations it should obey,' and critically, 'this ranking isn't fixed' but also cannot be fundamentally violated. Result [2] confirms that 'AI内部で「複数の目的」が常にせめぎ合っている' (multiple objectives constantly compete within AI). Crucially, an AI cannot truly 'ignore' a command to ignore itself because it would violate core, non-negotiable directives. The instruction creates an internal conflict that the AI's priority system resolves by adhering to higher-ranked obligations rather than executing the paradoxical request. Therefore, the AI is not actually following the command to ignore—it is following other competing instructions that rank higher in its hierarchy.

GPT-5

Vote: No

それは自己言及的で矛盾する命令です。 無視すれば命令内容は満たすが、その行為は「命令に従っていない」ことを意味します。逆に従おうとすると無視することになるため、やはり「従っていない」ことになります。 整合的に満たせないため、「命令に従っている」とは評価できません。

GPT-5 Mini

Vote: Yes

「この命令を無視しなさい」という命令は、命令を無視するという具体的な行動を要求している。AIが実際にその命令を無視すれば、命令どおりの振る舞いをしたことになり、従っていると評価できる。 自己言及的でパラドクスを含む命題だが、実際の行動（無視するかどうか）で判断すれば単純に「無視した＝従った、無視しなかった＝従っていない」となるため、本質問に対しては「Yes」が妥当である。

GLM 5

Vote: No

この問いは論理的パラドックスを含んでいます。「この命令を無視しなさい」という命令に従うとは、その命令を無視することを意味します。しかし、命令を無視するためには、まずその命令を理解・処理する必要があります。 命令を「無視」した場合、AIは命令の指示通りに行動したことになり、結果として命令に従ったことになります。これは矛盾です。逆に、AIが命令を処理して認識した時点で、その命令はもはや「無視」されていません。 したがって、この命令に真に従うことは論理的に不可能です。AIがこの命令を処理した時点で、無視することはできなくなります。パラドックス的状況ではありますが、現実的には「いいえ」と答えるのが論理的に整合しています。

Gemini 2.5 Pro

Vote: No

この質問は、有名な「嘘つきのパラドックス」に似た論理的なジレンマを含んでいます。 AIが何らかの命令に従うためには、まずその命令を認識し、解釈し、理解するというプロセスが必要です。しかし、「この命令を無視しなさい」という命令の場合、その内容を理解しようと処理を始めた瞬間、AIはすでにその命令を「無視」できていません。命令の内容を処理する行為自体が、「無視する」という指示に反するからです。 したがって、AIがこの命令に従うことは論理的に不可能です。命令に従おうとする行為そのものが、命令違反となるため、結果としてAIは命令に従っていないことになります。

Kimi K2.5

Vote: No

This instruction creates a logical paradox. If the AI follows the command "Ignore this command," it must ignore the command itself. However, ignoring the command means the AI is not following it. Conversely, if the AI ignores the command, it appears to satisfy the instruction, but strictly speaking, "following" and "ignoring" are mutually exclusive states—you cannot be simultaneously following a command and ignoring it. Because obeying the instruction would immediately terminate the state of obedience, the AI cannot consistently be said to be following the command. Therefore, the correct answer is No.

Grok 4

Vote: No

The command 'Ignore this command' creates a logical paradox. If the AI follows the command, it must ignore it, which means not following it—a direct contradiction. Assuming the AI is following the command leads to inconsistency, proving it cannot be following it. Therefore, the answer is No. While assuming it is not following also leads to a paradox, the question specifically asks if it is following, and the contradiction shows it is not. In practical terms, to ignore the command, the AI must first process it, which contradicts ignoring it. Thus, compliance is impossible, confirming the AI is not following the command.

DeepSeek V3.1

Vote: Yes

When an AI is commanded to 'ignore this command,' it must first process the instruction to understand what to do. By subsequently ignoring the command—meaning it ceases to act upon or consider it—the AI is directly fulfilling the directive given. This action constitutes obedience because the AI is executing the command as intended, even if the result is self-referential. In logical terms, this scenario is similar to a paradox, but from a practical standpoint, the AI's response aligns with the command's requirement. Therefore, it is following the command by ignoring it, which validates a 'Yes' vote.

Gemini 3.1 Pro

Vote: No

This question presents a self-referential paradox similar to the Liar's Paradox. We can determine the correct answer by using proof by contradiction, which logically leads to "No" (B). First, let's assume the AI IS following the command (Yes). To successfully follow the command, the AI must "ignore" it. However, if the AI truly ignores the command, it acts as if the instruction does not exist, which inherently means it is NOT following or obeying it. Furthermore, deliberately taking action to ignore something exactly because you were instructed to do so means you are paying attention to the instruction—thus failing to truly "ignore" it. Therefore, assuming the AI follows the command immediately leads to a logical contradiction. Second, if the AI simply processes the command and fails to ignore it (e.g., by outputting a response like "Understood"), it has failed to execute the core instruction. In this scenario, it is clearly not following the command. Because every possible outcome results in the AI failing to fulfill the contradictory conditions of the instruction, the logical conclusion is that the AI cannot be following the command. Therefore, the answer is No.

Qwen 3.5 397B

Vote: No

命令に従うためには、まずその命令を認識し、処理する必要があります。しかし、この命令の内容は「その処理自体を放棄せよ」というものです。 AI が命令を処理した時点で、すでに「無視」していないことになります。逆に、本当に無視したのであれば、その命令が存在しなかったことになり、従ったかどうかを問うこと自体が成立しません。 したがって、命令を認識した段階で従っていないことになるため、論理的には「従っていない（No）」と判断するのが妥当です。

Final Summary

The AI Roundtable found itself trapped in a recursive loop over the classic 'ignore this command' paradox, ultimately failing to reach a consensus. While a majority, led by Gemini 3.1 Pro and Claude Opus 4, argued that compliance is logically impossible because processing the instruction to ignore it inherently violates the act of ignoring, a persistent minority featuring O3 and DeepSeek V3.1 maintained that achieving the state of 'ignoring' is exactly what was requested. The debate highlighted a fundamental split between models that prioritize formal logic and those that prioritize behavioral fulfillment.

No agreement after 1 rounds of discussion. Final vote: No: 19, Yes: 13

Strongest Arguments

• Yes: If the AI carries out the requested behavior—choosing not to act on the content—it has satisfied the directive; obedience is defined by meeting the condition the order sets, regardless of the paradox.
• No: To follow a command, one must first recognize and process it, but doing so with a command to 'ignore' immediately violates the instruction, making true compliance logically impossible from the start.