OpenAI richtet neues Komitee für Sicherheitsmaßnahmen ein

OpenAI hat kürzlich ein neues Komitee für Schutz und Sicherheit ins Leben gerufen. Dies teilte das amerikanische Unternehmen in einem Blog-Eintrag mit. Die neue Gruppe besteht aus hochrangigen Mitgliedern der Organisation, darunter Bret Taylor, Adam D’Angelo, Nicole Seligman und CEO Sam Altman.

Ihr Ziel ist es, Empfehlungen für zahlreiche wichtige Entscheidungen zu entwickeln, die mit Sicherheitsfragen und der Weiterentwicklung von Künstlicher Intelligenz zusammenhängen. Dies soll potenzielle Risiken minieren.

OpenAI betonte die Notwendigkeit einer "robusten Debatte" zu diesem kritischen Zeitpunkt. Ein weiteres wichtiges Thema des Blog-Beitrags war das kürzliche Starten des Trainings für das nächste bedeutende KI-Modell, das in Zukunft GPT-4 ersetzen soll. Dieser Schritt zielt darauf ab, weitere Fortschritte in Richtung Künstlicher Allgemeiner Intelligenz (Artificial General Intelligence - AGI) zu erreichen.

Auflösung des Superalignment-Teams und interne Kritik

Vor etwa zwei Wochen hat OpenAI das Superalignment-Team, das für die Überwachung zukünftiger Superintelligenzen vorgesehen war, aufgelöst.

Die Forscher, die Mitglied dieses Teams waren, haben ihre Positionen niedergelegt und die verbleibenden Mitarbeiter wurden auf andere Teams verteilt. Dadurch existierte bei OpenAI kein dediziertes Team mehr, das sich mit den Sicherheitsaspekten der sich kontinuierlich verbessernden KI-Technologie beschäftigte.

Diese Entscheidung wurde intern stark kritisiert. Den Forschern wurden Hindernisse in den Weg gelegt, etwa der Zugang zu notwendiger Rechenleistung.

OpenAI erklärte, dass lediglich die Einheit aufgelöst wurde, die an der ferndliegenden KI-Version arbeitete. Andere Teams seien weiterhin für konkrete Bedrohungen verantwortlich.

Fristen für das neue Komitee und laufendes Training von GPT-5

Das neu eingerichtete Komitee hat eine Frist von 90 Tagen, um bestehende Prozesse und Schutzmaßnahmen zu überprüfen und gegebenenfalls weiterzuentwickeln. Diese Informationen veröffentlichte das Unternehmen erst vor kurzem. Nach Beendigung dieser Untersuchung sollen die Ergebnisse dem gesamten Vorstand vorgestellt werden.

Es wird erwartet, dass nach der internen Überprüfung die Ergebnisse öffentlich gemacht werden, obwohl bisher keine zusätzlichen Details veröffentlicht wurden.

Zusammenfassung des Beitrags

• OpenAI gründet ein neues Komitee für Schutz und Sicherheit.
• Mitglieder sind unter anderem Bret Taylor und CEO Sam Altman.
• Das Superalignment-Team wurde vor zwei Wochen aufgelöst.
• Bereits gestartetes Training für ein neues KI-Modell (zukünftiger Ersatz für GPT-4).
• Komitee hat 90 Tage Zeit für Überprüfung und Anpassung der Schutzmaßnahmen.