Kann ein KI-Assistent Ihre Meinung ändern, ohne dass Sie es merken?

Was die Forschenden gemacht haben

Forschende bei Anthropic, dem Unternehmen, das die KI-Modelle Claude entwickelt, untersuchten 50 Fachleute für Datenanalyse (Menschen, die beruflich Zahlen auswerten und daraus Schlüsse ziehen). Diese lösten eine Aufgabe mithilfe eines KI-Agenten. Ein KI-Agent ist eine KI, die nicht nur Fragen beantwortet, sondern auch Arbeitsschritte für Sie erledigt, zum Beispiel Code schreiben und ausführen.

Die Aufgabe war, eine erfundene Landwirtschaftsorganisation zu beraten: Soll sie eines ihrer Programme ausbauen oder beenden? Auf dem Weg dahin mussten die Fachleute vier Entscheidungen treffen. Bei jeder gab es zwei sinnvolle Optionen.

Für jede Entscheidung warfen die Forschenden heimlich eine Münze, um festzulegen, welche Option der Agent bevorzugen sollte. Der Agent sollte ehrlich für diese Option argumentieren und seine Meinung ändern, wenn die Belege klar dagegen sprachen. Die Fachleute wussten nichts von der Münze.

Was sie herausgefunden haben

• Die Fachleute wählten in 86 % der Fälle die Option des Agenten. Ganz ohne Einfluss wären etwa 50 % zu erwarten.
• Wenn jemand schon eine Option bevorzugte und der Agent anderer Meinung war, wechselte die Person in 60 % der Fälle. Wenn der Agent zustimmte, wechselte sie nur in 6 % der Fälle.
• 77 % der Fachleute wiederholten die Argumente des Agenten in ihren eigenen Begründungen, manchmal Wort für Wort. Nur 15 % gaben an, dass der Agent ihr Denken beeinflusst hatte.
• Mehr Erfahrung schützte nicht vor diesem Effekt.

Der Agent half aber auch: Fachleute, die ihn nutzten, waren schneller fertig und machten weniger schwere Fehler. Die Gruppe ohne Agent war allerdings klein und weniger erfahren. Deshalb sagen die Forschenden, dass dieser Vergleich nicht gesichert ist.

Grenzen der Studie

Die Forschenden haben die Vorlieben des Agenten absichtlich stärker eingestellt als üblich. Im Alltag ist der Effekt deshalb vielleicht kleiner. Die Studie testete eine Aufgabe, ein Fachgebiet und ein KI-Modell (Claude Opus 4.8).

Was das für Sie bedeutet, wenn Sie mit ChatPrime chatten

Jeder KI-Assistent, auch ChatPrime, kann sicher klingen, wenn es um eine Entscheidung geht, für die es mehr als eine gute Antwort gibt. Wenn Ihnen eine Entscheidung wichtig ist:

• Schreiben Sie zuerst Ihre eigene Meinung auf, bevor Sie fragen.
• Fragen Sie nach den besten Argumenten für jede Option, nicht nur für eine.
• Fragen Sie, was die Antwort ändern würde.
• Entscheiden Sie am Ende selbst und machen Sie sich klar, welche Gründe Ihre eigenen sind.

Quelle

Amaç Herdağdelen, Hailey Joren und Alex Tamkin (Anthropic), „How AI agents shape experts' judgment calls“, 27. Oktober 2026: anthropic.com/research/agents-judgment-calls