Startseite
Podcasts
KI Espresso Podcast
Arete: Wer bestimmt, wie politisch deine KI antwortet?

Arete: Wer bestimmt, wie politisch deine KI antwortet?

KI Espresso vor 3 Tagen

0:00

8:49

Nous Research hat Arete als nachtrainierte Version von Qwen
veröffentlicht und nennt westliche Werte ausdrücklich als Ziel.
Marc und Irene verfolgen an einem veröffentlichten Trainingsfall,
wie sich Tatsachenbehauptungen, Antwortverweigerung und
politische Rahmung unterscheiden. Was zeigt der Test des
Entwicklers, und wer legt fest, was sein Prüfer belohnt?

Der Fall fragt nach journalistischer Skepsis gegenüber einer
Festnahme aufgrund eines polizeilichen Gesichtsabgleichs. Die
veröffentlichten Antworten stammen von der Ausgangsversion Qwen
und dem Lehrermodell Inkling. Sie sind kein
Vorher-nachher-Beispiel für Qwen und Arete. Die mitgelieferten
Prüfnotizen kritisieren auch Angaben der Lehrerantwort.

Die Selbstbewertung von Nous wird zusammen mit ihrer
Faktenbewertung und den Grenzen der Rubrik erklärt. OpenAIs
politische Bewertung, Claudes Verfassung und der frühere Rückzug
einer übermäßig zustimmenden GPT-4o-Version zeigen andere Wege,
Verhalten zu messen oder zu beeinflussen. Daraus entsteht kein
Rangvergleich der Anbieter.

Zum Schluss geht es um die Wahl offener Modelle und eine eigene
Prüfung: Belege vorab festlegen, Tatsachen von Empfehlungen
trennen und Antworten in der tatsächlich verwendeten Sprache
vergleichen. Veröffentlichte Gewichte und Regeln ermöglichen
Einsicht und Anpassung; sie garantieren keine Neutralität oder
fehlerfreien Antworten.

Quellen:

https://nousresearch.com/arete

https://openai.com/index/defining-and-evaluating-political-bias-in-llms/

https://www.anthropic.com/news/claude-new-constitution

https://openai.com/index/expanding-on-sycophancy/