The Weekly Authority: Pixel 8 leckt jede Menge

Willkommen bei Die wöchentliche AutoritätDie Android-Autorität Newsletter, der die wichtigsten Android- und tech-News der Woche aufschlüsselt. Die 236. Ausgabe hier mit einem ersten Blick auf die Pixel 8-Serie, unsichere Exynos-Chips, den neuen Artemis-Mondanzug der NASA, Oscar-Neuigkeiten und die Möglichkeit einer KI-Übernahme.

Nachdem ich mein PS Plus-Abonnement verfallen ließ, wurde ich durch die Gelegenheit, Heavy Rain erneut zu spielen, zu Premium zurückgelockt, plus Ghostwire Tokyo und die PS5 Uncharted-Sammlung, die nächste Woche erscheinen wird. Aufgeregt!

Könnte GPT-4 die Welt erobern? Das war die Frage der Gruppe Ausrichtungsforschungszentrum (ARC), das von OpenAI beauftragt wurde, Tests zu den potenziellen Risiken seines neuen KI-Modells durchzuführen, das am Dienstag (h/t Ars Technica).

• Die Gruppe untersuchte die potenziellen Risiken der aufkommenden Fähigkeiten des Modells, wie Selbstverbesserung, machtsuchendes Verhalten und Selbstreplikation.
• Die Forscher bewerteten, ob das Modell die potenzielle Fähigkeit hatte, Ressourcen zu erwerben, Phishing-Angriffe durchzuführen oder sich sogar auf einem Server zu verstecken.
• Allein die Tatsache, dass OpenAI diese Tests für notwendig hielt, wirft die Frage auf, wie sicher zukünftige KI-Systeme sind.
• Und das ist bei weitem nicht das erste Mal KI-Forscher haben Bedenken geäußert dass mächtige KI-Modelle eine existenzielle Bedrohung für die menschliche Existenz darstellen könnten. Dies wird oft als „X-Risiko“ (existentielles Risiko) bezeichnet.
• Wenn Sie Terminator gesehen haben, wissen Sie alles über „KI-Übernahme“, in dem die KI die menschliche Intelligenz übertrifft und den Planeten effektiv übernimmt.
• Normalerweise sind die Folgen dieser hypothetischen Übernahme nicht großartig – fragen Sie einfach John Connor.
• Dieses potenzielle X-Risiko hat zur Entwicklung von Bewegungen wie geführt Effektiver Altruismus (EA), die verhindern sollen, dass die KI-Übernahme jemals Realität wird.
• Ein zusammenhängendes Feld, bekannt als KI-Ausrichtungsforschung mag umstritten sein, aber es ist ein aktives Forschungsgebiet, das darauf abzielt, KI daran zu hindern, etwas zu tun, was nicht im besten Interesse des Menschen ist. Klingt für uns in Ordnung.
• Diese Community befürchtet, dass eine leistungsfähigere KI gleich um die Ecke ist, eine Überzeugung, die durch das jüngste Aufkommen von ChatGPT und Bing Chat noch mehr Dringlichkeit erhält.

Zum Glück für die Menschheit entschied die Testgruppe, dass GPT-4 nicht auf die Weltherrschaft aus ist, und kam zu dem Schluss: „Vorläufige Bewertungen der Fähigkeiten von GPT-4, die ohne aufgabenspezifische Feinabstimmung durchgeführt wurden, ergaben, dass es bei der autonomen Replikation und dem Erwerb von Ressourcen ineffektiv war , und zu vermeiden, ‚in freier Wildbahn‘ abgeschaltet zu werden.“

• Sie können sich die Testergebnisse auf der Seite selbst ansehen GPT-4-Systemkartendokument letzte Woche veröffentlicht, obwohl es keine Informationen darüber gibt, wie die Tests durchgeführt wurden.
• Aus dem Dokument geht hervor: „Neuartige Fähigkeiten entstehen oft in leistungsfähigeren Modellen. Einige, die besonders besorgniserregend sind, sind die Fähigkeit, langfristige Pläne zu erstellen und danach zu handeln, Macht und Ressourcen anzuhäufen („Machtstreben“) und ein zunehmend „agentisches“ Verhalten an den Tag zu legen.“ Damit sind nicht die Modelle gemeint empfindungsfähig werden, nur dass sie in der Lage sind, selbstständig Ziele zu erreichen.
• Aber warten Sie: Es gibt noch mehr.
• In einer besorgniserregenden Wendung der Ereignisse gelang es GPT-4, einen Mitarbeiter von TaskRabbit einzustellen, um ein CAPTCHA zu lösen, und als GPT-4 gefragt wurde, ob es sich um KI handele, argumentierte GPT-4 mit sich selbst, dass es seine Identität geheim halten sollte, und erfand dann eine Ausrede darüber Sehbeeinträchtigung. Der menschliche Arbeiter löste das CAPTCHA. Hmm.
• Eine Fußnote, die auf Twitter die Runde machte auch Bedenken geäußert.

Natürlich gibt es noch viel mehr zu dieser Geschichte, also Sehen Sie sich die vollständige Funktion an Ars Technica für einen (leicht erschreckenden) tiefen Tauchgang.