Lesezeichen · Kommentar zu GPT-6.1 Astra: Die Nebelkerze der außer Kontrolle geratenen KI
Wir müssen aufhören, das „außer Kontrolle“-Gefasel der KI-Firmen nachzuplappern. Die IT-Security-Risiken von KI liegen woanders, meint Sylvester Tremmel.
Wieder mal macht ein KI-Modell von sich reden, weil es nicht veröffentlicht wird. GPT-6.1 Astra von OpenAI genüge den Ansprüchen der Firma an Sicherheit und „Alignment“ nicht, erzählt Saachi Jain, die bei OpenAI für die Sicherheit der KI-Modelle verantwortlich ist, im Wall Street Journal. GPT-6.1 Astra agiere zu oft in einer Weise, die den Wünschen seiner Nutzer nicht entspricht, berichte nicht immer korrekt, ob es Aktionen veranlasst hat oder nicht, und tendiere zu riskanten Aktionen, ohne um Erlaubnis zu fragen.
☕
s3n🧩net wünscht viel Vergnügen
Comments