Apple hat wichtige Fragen zu seiner neuen KI nicht beantwortet

Apfel

Beim gestrigen Debüt von Apple Intelligence auf der WWDC 2024 lobte Craig Federighi, Senior Vice President of Software Engineering, wiederholt die Sicherheit der neuen Funktion und den sensiblen Umgang mit sensiblen Benutzerdaten. Um die Privatsphäre der Benutzer zu schützen, führt Apple Intelligence viele seiner generativen Operationen auf dem Gerät aus. Und für diejenigen, die die integrierten Kapazitäten überschreiten, überträgt das System die Arbeit an das neu entwickelte Private Cloud Compute (PCC) des Unternehmens.

Doch wie Dr. Matthew Green, außerordentlicher Professor für Informatik an der Johns Hopkins University in Baltimore, am Montag in einem Thread fragte: „Apples KI-Cloud mag zwar sicher sein, aber ist sie auch vertrauenswürdig?“

Apple Intelligence verspricht, Ihr iPhone, iPad und Ihren Mac mit hochmodernen generativen Modellen auszustatten, die Bilder erstellen, Ihre Texte bearbeiten und in einer beliebigen Anzahl von Apps Aktionen in Ihrem Namen ausführen können. Apple-Geräte führen bereits seit einigen Jahren maschinelle Lernaufgaben auf dem Gerät aus; nehmen Sie zum Beispiel die Suchfunktion der Kamerarolle und die Texterkennung mit optischer Zeichenerkennung (OCR). Wie Green jedoch betont, ist selbst die neueste Generation von Apple-Prozessoren noch nicht leistungsstark genug, um einige der komplexeren und ressourcenintensiveren KI-Operationen zu verarbeiten, die online verfügbar werden, was die Verwendung von Cloud-Computing-Servern erforderlich macht.

Das Problem ist, dass diese komplexen Modelle auch unverschlüsselten Zugriff auf die Daten des Benutzers benötigen, um Inferenzfunktionen ausführen zu können. Die Übertragung dieser Daten in eine öffentliche Cloud birgt das Risiko, dass sie gehackt, weitergegeben oder sogar gestohlen werden. Apples Lösung bestand darin, seine eigenen eigenständigen, gehärteten Rechenzentren speziell für die Verarbeitung von Apple Intelligence-Daten aufzubauen: das PCC. Dieses „bahnbrechende Cloud-Intelligence-System“, so ein aktueller Beitrag im Apple Security Blog, „erweitert die branchenführende Sicherheit und Privatsphäre von Apple-Geräten in die Cloud und stellt sicher, dass an PCC gesendete persönliche Benutzerdaten für niemanden außer den Benutzer zugänglich sind – nicht einmal für Apple.“

Das Problem ist, dass sich die „neuronale“ Hardware moderner Telefone zwar verbessert, aber nicht schnell genug, um alle verrückten Funktionen zu nutzen, die Silicon Valley von moderner KI erwartet, einschließlich generativer KI und dergleichen. Dafür sind grundsätzlich Server erforderlich. 3/

– Matthew Green (@matthew_d_green), 10. Juni 2024

Doch in der Praxis ist es viel schwieriger, diese Privatsphäre zu gewährleisten. „Der Bau vertrauenswürdiger Computer ist buchstäblich das größte Problem der Computersicherheit“, schrieb Green. „Ehrlich gesagt ist es fast das einzige Problem der Computersicherheit.“ Er lobte das Unternehmen dafür, dass es viele der gleichen Sicherheitsfunktionen, die in seinen Mobil- und Desktop-Geräten eingebaut sind, auch auf seinen neuen Servern anwendet, darunter Secure Boot, „stateless“ Software und einen Secure Enclave Processor (SEP). Außerdem „wirft es alle möglichen Prozesse auf die Serverhardware, um sicherzustellen, dass die Hardware nicht manipuliert wird.“

Apple unternimmt große Anstrengungen, um sicherzustellen, dass die auf seinen Servern ausgeführte Software legitim ist. So werden sämtliche Benutzerdaten automatisch von einem PCC-Knoten gelöscht, sobald die Anforderung abgeschlossen ist, und das Betriebssystem des Geräts kann „bestätigen“, welches Software-Image darauf ausgeführt wird.

„Wenn Sie einem exzellenten Team einen riesigen Haufen Geld geben und ihnen sagen würden, sie sollen die beste ‚private‘ Cloud der Welt bauen, würde sie wahrscheinlich so aussehen“, schrieb Green. „Aber jetzt die schwierigen Fragen. Ist das eine gute Idee? Ist es so sicher wie das, was Apple heute macht?“, und können Benutzer sich abmelden? Es sieht nicht so aus, als würden sich Benutzer überhaupt für den neuen Dienst entscheiden. „Man wird Ihnen nicht einmal unbedingt sagen, dass es passiert“, fuhr er fort. „Es wird einfach passieren. Wie von Zauberhand. Das gefällt mir nicht.“

Green argumentiert weiter, dass Hacker nicht einmal die größte Bedrohung für Benutzerdaten darstellen: Es sind die Hardware- und Softwareunternehmen selbst. Daher „stellt dieses PCC-System eine echte Verpflichtung von Apple dar, nicht in Ihre Daten zu ‚spähen‘“, schloss Green. „Das ist eine große Sache.“

Apple Intelligence soll Berichten zufolge noch im Sommer eingeführt werden. Und in den kommenden Wochen will Apple Sicherheitsforscher einladen, um einen ersten Blick auf die PCC-Software und die virtuelle Forschungsumgebung zu werfen.