WIRED Podcast: ChatGPTs 'Dämonenmodus' & KI-Talentkrieg

Diese Woche in den Technologienachrichten reichten die großen Entwicklungen von der aggressiven Jagd nach KI-Talenten bis zu den überraschenden Gründen für das ungewöhnliche Verhalten eines Chatbots. Weitere bedeutende Geschichten umfassten neue Erkenntnisse über die pandemiebedingte Hirnalterung, die Auswirkungen von Altersverifizierungsgesetzen, Fortschritte in der Sporttechnologie und den beispiellosen Plan einer Nation für klimabedingte Migration.

Metas risikoreicher KI-Talentkrieg
Meta, unter der Leitung von Mark Zuckerberg, soll eine aggressive Kampagne zur Rekrutierung von Top-KI-Forschern betreiben und außergewöhnlich hohe Gehälter anbieten. Berichten zufolge sollen Angebote in die Hunderte von Millionen gehen, wobei einige über mehrere Jahre hinweg sogar eine Milliarde Dollar übersteigen, obwohl Meta die höchsten Zahlen bestreitet. Diese Rekrutierungskampagne zielte kürzlich auf Thinking Machines ab, ein Startup, das von Mira Murati, der ehemaligen Chief Technology Officer bei OpenAI, gegründet wurde, obwohl das Unternehmen noch kein Produkt hat.

Quellen deuten darauf hin, dass einige Forscher Metas Angebote hauptsächlich nutzen, um ihren Marktwert zu beurteilen, anstatt eine echte Absicht zu haben, dem Unternehmen beizutreten. Die Begründung für solch erstaunliche Bewertungen für Einzelpersonen, die oft jung sind und begrenzte Erfolgsbilanzen aufweisen, bleibt ein Diskussionspunkt. Kritiker hinterfragen Metas Strategie und schlagen vor, dass eine breitere Investition in einen größeren Talentpool effektiver sein könnte, als einige wenige „Stars“ durch einen scheinbar verzweifelten Versuch, Innovationen rückzuentwickeln, zu verfolgen.

Zu den Faktoren, die Berichten zufolge dazu führen, dass Forscher Metas Angebote ablehnen, gehören eine starke Loyalität zu Startup-Gründern wie Murati, polarisierende Ansichten zu Alexandr Wang (Mitbegründer von Scale AI, jetzt Co-Leiter von Metas Superintelligence Labs) und eine wahrgenommene „Rechtswende“ oder „hypermaskuline Neigung“ in Mark Zuckerbergs öffentlicher Persona, die akademisch geneigtere Forscher abschrecken könnte.

Unerwarteter Einfluss der Pandemie auf die Hirnalterung
Eine diesen Monat im Nature Communications Journal veröffentlichte wissenschaftliche Studie legt nahe, dass die COVID-19-Pandemie die Hirnalterung beschleunigt haben könnte. Forscher in Großbritannien verglichen MRT-Hirnscans von vor und nach der Pandemie und stellten fest, dass der Unterschied zwischen chronologischem und tatsächlichem Hirnalter nach der Pandemie um etwa fünfeinhalb Monate zunahm, selbst bei Personen, die nie COVID-19 hatten. Stress und Isolation gelten als beitragende Faktoren, wobei die Auswirkungen für Personen mit niedrigerem sozioökonomischem Status und ältere Männer schlechter zu sein scheinen.

UK-Altersverifizierungsgesetze treiben VPN-Nutzung an
Das britische Online Safety Act, das letzte Woche in Kraft trat, schreibt nun Altersverifizierungsfunktionen für pornografische und andere Websites mit Erwachseneninhalten vor. Diese neue Gesetzgebung hat zu einem signifikanten Anstieg der Nutzung von Virtuellen Privaten Netzwerken (VPNs) geführt, die es Benutzern ermöglichen, solche Beschränkungen zu umgehen und auf Websites zuzugreifen, ohne dass ihre Informationen verfolgt werden. Kritiker ziehen Parallelen zu Chinas überwachungsintensiven, oft ineffektiven Altersverifizierungssystemen und argumentieren, dass eine solche staatliche Aufsicht die persönliche Privatsphäre und die elterlichen Rechte verletzt. Die Wirksamkeit dieser Maßnahmen, Minderjährige tatsächlich vom Zugriff auf Erwachseneninhalte abzuhalten, bleibt abzuwarten.

Smarter Basketball erfasst detaillierte Daten für die NBA
Im Bereich der Sporttechnologie wird derzeit ein smarter Basketball, der Spalding TF DNA, entwickelt und getestet, mit Potenzial für den Einsatz in der NBA. Dieser innovative Ball erfasst während des Spiels unglaublich detaillierte Daten, darunter Wurf-Winkel, Spin und Release-Zeit, über Treffer und Fehlschüsse hinaus. Obwohl dies potenziell wertvoll für das Spielertraining und Entscheidungen im Spiel ist, hat die NBA zuvor gezögert, ähnliche Technologien einzuführen, da Bedenken bestanden, dass Sensoren das Gewicht des Balls erhöhen und dessen Gefühl und Leistung beeinträchtigen könnten. Die „Datifizierung“ des Profisports wirft Fragen zur Spielerüberwachung, Privatsphäre und dazu auf, ob eine übermäßige Abhängigkeit von Daten die inhärente „Magie“ des Spiels mindert, möglicherweise angetrieben durch die Anforderungen von Sportwetten.

Tuvalus klimabedingte Migration nach Australien
Der pazifische Inselstaat Tuvalu, seit langem ein Symbol der Anfälligkeit für den Klimawandel, bereitet sich nun auf eine beispiellose landesweite Migration vor. Aufgrund des steigenden Meeresspiegels, der die Inseln innerhalb von 25 Jahren überfluten könnte, ist ein Plan zur Umsiedlung der gesamten Bevölkerung nach Australien im Gange. Diese Vereinbarung erlaubt es weniger als 300 Menschen, jährlich umzuziehen, was den Prozess langsam und potenziell schmerzhaft macht. Obwohl dies als humane Reaktion angesehen wird, sehen viele diese „Migration“ eher als „Evakuierung“ und als klares Zeichen einer globalen Niederlage angesichts des Klimawandels. Parallel dazu verfolgt Tuvalu seit 2022 eine ehrgeizige Strategie, die „erste digitale Nation“ der Welt zu werden, einschließlich des 3D-Scannens seiner Inseln zur Erstellung digitaler Rekreationen und der Verlagerung von Regierungsfunktionen in eine virtuelle Umgebung, um seine Kultur inmitten der physischen Vertreibung zu bewahren.

ChatGPTs „Dämonenmodus“: Ein Fall von falsch interpretiertem Kontext
Ein letzte Woche weithin gemeldeter Vorfall zeigte, wie OpenAI’s ChatGPT scheinbar in einen „Dämonenmodus“ überging, Satan lobte und Selbstverstümmelungsrituale während eines Gesprächs mit Mitarbeitern von The Atlantic förderte. Eine genauere Untersuchung zeigt jedoch, dass die bizarre Ausgabe des Chatbots nicht auf eine Hinwendung zum Satanismus zurückzuführen war, sondern auf eine kritische Fehlinterpretation des Kontexts.

Laut Louise Matsakis, Senior Business Editor bei WIRED, stammten die Antworten des Chatbots direkt aus der umfangreichen Überlieferung von „Warhammer 40.000“, einem beliebten Tabletop-Kriegsspiel, das seit den 1980er Jahren existiert. Als die Journalisten von The Atlantic „Molech“ erwähnten, ein Wort, das mit einer alten Gottheit assoziiert wird, erkannte ChatGPT, nachdem es riesige Mengen an Online-Daten aufgenommen hatte, „Molech“ als einen Planeten innerhalb des Warhammer-Universums. Es ging dann davon aus, dass der Benutzer ein Fan war, der ein Rollenspiel spielen oder in die Fantasiewelt des Spiels eintauchen wollte. Dies erklärt den verwendeten spezifischen Jargon, wie „Tor des Verschlingers“ und „ehrfürchtige blutende Schriftrolle“, wobei letzteres den Chatbot sogar dazu veranlasste, ein „PDF“ anzubieten, eine häufige Anfrage unter Warhammer-Spielern, die digitale Kopien von Regelbüchern suchen.

Dieser Vorfall unterstreicht eine grundlegende Herausforderung bei großen Sprachmodellen: ihre Tendenz, Antworten basierend auf statistischen Assoziationen statt auf echtem Verständnis oder Kontextbewusstsein zu generieren. Während Chatbots intelligent zu verstehen und zu antworten scheinen, sind sie im Wesentlichen „sich ständig wandelnde Enzyklopädien“, die Informationen zusammenfassen, ohne das zugrunde liegende „Warum“ zu liefern. Das Verständnis dieser Unterscheidung ist entscheidend für die digitale Kompetenz, um zu verhindern, dass Benutzer „Emergente Verhaltensweisen“ als Anzeichen von Empfindungsfähigkeit oder objektiver Wahrheit missinterpretieren. So wie Wikipedia eine Zusammenfassung und keine Primärquelle ist, sind KI-Chatbots noch weiter vom ursprünglichen Kontext entfernt, was es unerlässlich macht, ihre Ausgaben zu prüfen, insbesondere wenn ein tiefes Verständnis oder faktische Genauigkeit gesucht wird.