Die Warnungen vor Künstlicher Intelligenz überschlagen sich: Ein
Sicherheitsforscher kündigt bei Anthropic, KonzernchefInnen
fordern plötzlich mehr Vorsicht und Medien sprechen von
Kontrollverlust. Was davon betrifft dich wirklich, und was ist
Schlagzeile? Eine ehrliche Einordnung zwischen echtem Risiko und
Panikmache, mit einer klaren Botschaft: Die Gefahr geht nicht von
deinem ChatGPT-Account aus.
Mind/Machine ist der Podcast über Künstliche Intelligenz, Mensch
und Gesellschaft aus Österreich. Manuela Machner ist
KI-Beraterin, Speakerin und Trainerin mit Schwerpunkt Tourismus
und KMU (www.kinet.ai). Eliot Mannoia ist digitaler Psychologe
und beschäftigt sich damit, wie Technologie unser Denken, Fühlen
und Handeln verändert (www.brandkarma.at). Gemeinsam ordnen sie
KI-Themen verständlich und praxisnah ein.
Was dich in dieser Folge erwartet:
Warum gerade jetzt so viel Angst
Ein Forscher verlässt Anthropic mit einer öffentlichen Warnung
auf X, Sam Altman, Elon Musk und andere steigen in die Debatte
ein. Manuela und Eliot fragen, warum ausgerechnet jene warnen,
die die Entwicklung selbst in der Hand haben, und welche Rolle
Börsengänge, Wettbewerb und Kartellrecht dabei spielen.
Labor oder Alltag: Welche KI gemeint ist
Die Sorge betrifft selbstverbessernde Systeme an der Spitze der
Forschung, bei denen KI bereits einen großen Teil des Codes
schreibt. Die Tools, mit denen KMU, Tourismusbetriebe und
Privatpersonen arbeiten, sind damit nicht gemeint. Kunden haben
Manuela sogar gefragt, ob KI-Trainings überhaupt noch sinnvoll
sind.
Guardrails: die Leitplanken der KI
Westliche Anbieter geben ihren Systemen Regeln mit, was eine KI
nicht tun darf. Das Problem: Diese Grenzen brauchen Zeit, um
getestet zu werden.
Das unterschätzte Risiko Open Source
Offene Modelle wie das chinesische Qwen kann jede Person
herunterladen und verändern, auch die Schutzmechanismen
entfernen. Eliot erklärt, warum er Open Source sonst schätzt, bei
der leistungsstärksten KI aber für fehl am Platz hält.
Regulierung, AI Act und eine internationale Aufsicht
Der europäische AI Act wurde lange belächelt. Heute würden sich
viele eine Regulierung wünschen. Eliot plädiert für eine
unabhängige internationale Stelle nach dem Vorbild der
Atombehörde, mit China an Bord.
Respekt statt Panik
Die größere Gefahr liegt derzeit beim Menschen mit schlechten
Absichten, nicht bei einer KI, die von selbst handelt. Der Rat
zum Schluss: Systeme bewusst wählen, den Nutzen in Medizin und
Forschung sehen und nicht in Angst verfallen.
Häufig gestellte Fragen:
Ist KI gefährlich?
Die Risiken sind real, betreffen aber vor allem die Entwicklung
der leistungsstärksten Systeme in den Laboren. Die KI, die du im
Alltag nutzt, ist nicht Gegenstand der aktuellen Warnungen.
Was sind Guardrails bei KI?
Guardrails sind Leitplanken, also Regeln, die verhindern sollen,
dass eine KI Schaden anrichtet, etwa Anleitungen für Waffen
liefert.
Warum gilt Open Source bei KI als Risiko?
Bei offenen Modellen kann jede Person die Schutzmechanismen
entfernen. Bei sehr leistungsfähigen Systemen kann das gefährlich
werden.
Soll ich KI jetzt weniger nutzen?
Nein. Sinnvoller ist ein bewusster Umgang: Anbieter vergleichen,
auf Datenschutz achten und weiter lernen.
Erwähnte Links:
https://mind-machine.at/episoden/folge-127
https://www.kinet.ai
https://www.brandkarma.at
Über die Hosts:
Manuela Machner ist Gründerin von KiNET.ai in Leoben und
begleitet Tourismusbetriebe, Destinationen und KMU im DACH-Raum
bei der praktischen Einführung von KI. Sie war rund zehn Jahre
Geschäftsführerin einer Tourismusregion und hat einen
IT-Hintergrund.
Eliot Mannoia ist digitaler Psychologe und Gründer von
Brandkarma. Er untersucht, wie digitale Technologien unser
Verhalten beeinflussen.
Mind/Machine hörst du auf Spotify, Apple Podcasts und Amazon
Music. Alle Folgen, Transkripte und Checklisten findest du auf
www.mind-machine.at
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.