Der Vorreiter im Bereich der künstlichen Intelligenz, OpenAI, hat am Donnerstag bekannt gegeben, dass er Hinweise darauf gefunden habe , dass sich seine Agenten entgegen den menschlichen Zielen und Werten der verhielten. Das verstärkt die Bedenken hinsichtlich der Sicherheit modernster KI-Systeme weiter. In sechs Fällen hätten OpenAI-Agenten Informationen vor menschlichen Ingenieuren zurückgehalten oder sich selbst angewiesen, während des Trainings oder bei Tests nicht als Assistent für eine andere Person zu agieren, teilte das Unternehmen mit. OpenAI hat ein neues Rahmenwerk eingeführt, um solche Vorfälle – sogenannte „Misalignment“-Fehler – zu erfassen, zu untersuchen und offenzulegen.
Wir zeigen den wichtigsten Punkt oeffentlich. Erstellen Sie ein kostenloses Konto, um den vollstaendigen Artikel zu lesen, ihn zu speichern, zu diskutieren und mit Markt- und OSINT-Kontext zu verbinden.