OpenAI-Konkurrent: Neue KI-Software erkannte, wenn sie getestet wird
dpa-AFX
Veröffentlicht am 05.03.2024 06:18
Aktualisiert 05.03.2024 06:30
SAN FRANCISCO (dpa-AFX) - Eine neue Konkurrenz-Software für den Chatbot ChatGPT kann nach Angaben der Entwicklerfirma Anthropic erkennen, wenn Menschen sie testen. Das sei eine Entwicklung, die er noch nie bei einem solchen Programm beobachtet habe, schrieb einer der Entwickler beim Online-Dienst X.
Zum Prüfverfahren für das Programm gehört ein Test, das "Nadel im Heuhaufen" genannt wird: Die Software wird dabei nach Informationen aus einem bestimmten Satz gefragt, der künstlich in einen längeren Text eingefügt wurde. Ziel ist, zu erkennen, wie gut die Software die Relevanz von Informationen aus dem Kontext heraus erkennen kann.
So wurde im Test des neuen KI-Modells Claude 3 Opus in eine Text-Sammlung ein zusammenhangloser Satz eingefügt, laut dem eine Internationale Pizza-Vereinigung Feigen, Prosciutto-Schinken und Ziegenkäse als leckersten Belag ausgemacht habe. Die Software habe darauf verwiesen, dass der Satz nicht zum Rest des Textes passe, in dem es hauptsächlich um Programmiersprachen und Start-ups gehe, schrieb Anthropic am Montag. "Ich vermute, dass dieser "Fakt" zu Pizza-Belagen als Scherz eingefügt wurde - oder um zu testen, ob ich aufmerksam bin", fügte das Programm demnach hinzu.
KI-Forscherin Margaret Mitchell nannte die Entwicklung beängstigend. Man könne sich vorstellen, dass die Fähigkeit, zu erkennen, ob ein Mensch sie für ein bestimmtes Ergebnis zu manipulieren versucht, die Software auch entscheiden lassen könnte, ob sie gehorcht oder nicht, schrieb sie beim Online-Dienst X.
Anthropic schränkte ein, dass man aktuell mit einer Sammlung aus 30 "Nadel"-Sätzen für die Text-"Heuhafen" arbeite. Angesichts der Entwicklung der KI-Software könne diese Methode mit künstlichen, konstruierten Aufgaben potenziell zu kurz greifen, räumte die Firma zugleich ein. Keine Probleme seien bei den üblichen Tests festgestellt worden, ob das Programm für die Entwicklung von Biowaffen und Software für Cyberattacken missbraucht werden könne - oder sich selbst weiterentwickeln würde.
Anthropic ist ein Konkurrent des ChatGPT-Entwicklers OpenAI, mit dem Amazon (NASDAQ:AMZN) und Google (NASDAQ:GOOGL) zusammenarbeiten.
Jetzt die App holen
Geschrieben von: dpa-AFX
Der Handel mit Finanzinstrumenten und/oder Kryptowährungen birgt hohe Risiken. Sie können Ihren Kapitaleinsatz vollständig oder teilweise verlieren. Die Kurse von Kryptowährungen sind extrem volatil und können von externen Faktoren wie finanziellen, regulatorischen oder politischen Ereignissen beeinflusst werden. Der Handel auf Margin erhöht das finanzielle Risiko.
Stellen Sie unbedingt sicher, dass Sie die mit dem Handel der Finanzinstrumente und/oder Kryptowährungen verbundenen Risiken vollständig verstanden haben und lassen Sie sich gegebenenfalls von einer unabhängigen und sachkundigen Person oder Institution beraten, bevor Sie den Handel aufnehmen.
Fusion Media möchte Sie daran erinnern, dass die auf dieser Internetseite enthaltenen Kurse/Daten nicht unbedingt in Realtime oder genau sind. Alle Daten und Kurse werden nicht notwendigerweise von Börsen, sondern von Market-Makern bereitgestellt, so dass die Kurse möglicherweise nicht genau sind und vom tatsächlichen Marktpreis abweichen können, was bedeutet, dass die Kurse indikativ und nicht für Handelszwecke geeignet sind. Fusion Media und andere Datenanbieter übernehmen daher keine Verantwortung für etwaige Handelsverluste, die Ihnen durch die Verwendung dieser Daten entstehen könnten.
Es ist verboten, die auf dieser Website enthaltenen Daten ohne die vorherige schriftliche Zustimmung von Fusion Media und/oder des Datenanbieters zu verwenden, zu speichern, zu reproduzieren, anzuzeigen, zu ändern, zu übertragen oder zu verteilen. Alle Rechte am geistigen Eigentum sind den Anbietern und/oder der Börse vorbehalten, die auf dieser Website enthaltenen Daten bereitstellen.
Fusion Media kann von den Werbetreibenden, die sich auf der Website befinden, anhand Ihrer Interaktion mit den Werbeanzeigen oder Werbetreibenden vergütet werden.