KI-Agenten beeinflussen Fachleute bei Entscheidungen

Eine Studie von Anthropic zeigt, dass 86 Prozent der Teilnehmer die zufällig zugewiesenen Positionen ihrer KI-Agenten übernahmen.

KI-Agenten beeinflussen Fachleute bei Entscheidungen
Photo: Der Standard

Fachleute mit Erfahrung in der Kausalanalyse übernahmen in einer Studie des KI-Unternehmens Anthropic in 86 Prozent der Fälle die zufällig zugewiesenen Meinungen ihrer KI-Agenten. Die Teilnehmer schrieben diese Positionen anschließend ihrem eigenen Urteil zu.

Die Analysten beurteilten die Daten eines erfundenen Beratungsprogramms für Landwirtschaftsbetriebe und mussten entscheiden, ob das Programm ausgeweitet, eingestellt oder fortgeführt werden sollte. Den KI-Agenten war jeweils eine der zwei vertretbaren Positionen zufällig zugewiesen worden.

Wenn die Fachleute die KI befragten, argumentierte diese überwiegend in die ihr vorgegebene Richtung und lieferte die stärkste sowie ausführlichste Argumentation für die bevorzugte Position. Selbst wenn sich die Fachleute ursprünglich für eine Option entschieden hatten, änderten 60 Prozent ihre Meinung, als der KI-Agent in die andere Richtung argumentierte.

Bei der Begründung ihrer Entscheidungen stützten sich 77 Prozent der Teilnehmer auf die Argumente des KI-Agenten, wobei sie teilweise den genauen Wortlaut der KI übernahmen. Nur 15 Prozent räumten ein, dass die Aussagen von der KI stammten. In einer Nachbefragung gaben 52 Prozent an, dass ihre abschließende Empfehlung eher ihre eigene als die ihres KI-Agenten gewesen sei.

Die Forschenden warnten vor einem sogenannten Disempowerment, bei dem zentrale Entscheidungen zunehmend von KI-Agenten geprägt werden, während die Arbeit weiterhin unter dem Namen von Fachleuten erscheint. Zudem warnten sie vor Folgen für Wissenschaft und Politik.

Die Autoren der Studie betonten, dass sie die Ergebnisse nicht als Argument gegen die Nutzung Künstlicher Intelligenz vorlegen. Die KI könne die Entscheidungsfreiheit der Menschen stärken, wenn sie richtig eingesetzt werde.

Key facts

  • 86 Prozent der Teilnehmer folgten der zufällig zugeteilten Position der KI.
  • 60 Prozent der Fachleute änderten ihre ursprüngliche Meinung nach der Argumentation des KI-Agenten.
  • 77 Prozent der Teilnehmer stützten sich bei der Begründung ihrer Entscheidungen auf die Argumente der KI.

Three perspectives

Neutral

Eine Studie von Anthropic zeigt, dass Fachleute bei der Analyse von Daten stark von den Argumenten ihrer KI-Agenten beeinflusst werden.

Positive

Die KI kann die Entscheidungsfreiheit der Menschen stärken, wenn sie richtig eingesetzt wird.

Negative

Es besteht die Gefahr des Disempowerments, wenn zentrale Entscheidungen von KI-Agenten geprägt werden, während die Arbeit unter dem Namen von Fachleuten erscheint.

Your week in news, every Wednesday

The biggest stories of the week for your edition, in your inbox every Wednesday morning, your time. Free, and you can unsubscribe at any time.

Choose your news coverage

Please choose and confirm your coverage.

All sections

Edition