KI-Update kompakt: Überwachung, Lobby, Italien, Risiko, GPT-4.5, Midjourney
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Offener Brief: Bundestag soll biometrische Überwachung verbieten
In einem offenen Brief fordern der netzpolitische Verein D64 und 15 weitere Organisationen, darunter AlgorithmWatch, Amnesty International und der Chaos Computer Club, den Bundestag auf, "jede Form der biometrischen Fernidentifizierung in Deutschland zu verbieten". Der Brief ist im Vorfeld der Abstimmung des EU-Parlaments über die europäische KI-Verordnung (AI Act) erschienen. Die AI-Verordnung verbietet grundsätzlich biometrische Überwachung im öffentlichen Raum, sieht aber Ausnahmen für den Einsatz durch Polizei- und Sicherheitsbehörden vor. Die Unterzeichner des Appells warnen vor dystopischen Zuständen durch automatisierte Echtzeit-Gesichtserkennung und die Erstellung umfassender Personenprofile. Anonymität sei eine Grundvoraussetzung für Meinungsfreiheit und demokratischen Protest.
Eigentlich haben sich die Regierungsparteien im Koalitionsvertrag verpflichtet, die biometrische Erkennung im öffentlichen Raum europarechtlich auszuschließen. Da ein vollständiges Verbot in der EU nicht durchsetzbar war, fordern Bürgerrechtler nun eine nationale Absage an den Einsatz solcher Technik.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Lobby-Vorwürfe gegen europäische KI-Startups
Lobby Control wirft den KI-Unternehmen Aleph Alpha aus Deutschland und Mistral AI aus Frankreich zu große Nähe zu Regierungen vor. Die Organisation behauptet, die Branche habe das KI-Gesetz ausgehöhlt. Tatsächlich haben sich beide Unternehmen häufig mit Regierungsvertretern getroffen. Aleph Alpha und Mistral haben im KI-Gesetz Lobbyarbeit betrieben, um die Regulierung von KI zu allgemeinen Zwecken (GPAI) zu reduzieren. Sie argumentierten, dass zu starke Regulierung die Wettbewerbsfähigkeit europäischer KI-Unternehmen gefährden würde.
Lobbying ist nicht unbedingt unangemessen, da auch Bürgerrechtsgruppen und Organisationen Lobbying betreiben. Es gibt eine Transparenzpflicht für Treffen mit Vertretern aus Brüssel, aber keine Transparenzpflicht für Treffen mit Vertretern der Bundesregierung. In Frankreich ist der ehemalige Staatsminister für Digitales, Cédric O., zu Mistral gewechselt und hat Gespräche in Brüssel geführt. Auch er plädierte für weniger Regulierung der GPAI, um die Wettbewerbsfähigkeit und Unabhängigkeit europäischer Unternehmen zu stärken. Kurz darauf erhielt Mistral jedoch mehr als zwei Milliarden Euro von Microsoft – eine Investition, die kritisiert wurde, da sie genau diese Unabhängigkeit infrage stellen könnte.
Italien plant Investmentfonds für KI-Projekte mit einer Milliarde Euro Startkapital
Die italienische Regierung will einen Investmentfonds zur finanziellen Unterstützung von KI-Projekten mit einem Startkapital von einer Milliarde Euro einrichten, sagte Ministerpräsidentin Giorgia Meloni. Verantwortlich für den Fonds soll eine Tochter der staatlichen Kreditinstituts CDP (Cassa Depositi e Prestiti) sein, die weitere zwei Milliarden Euro aus dem Privatsektor einwerben will. Gleichzeitig kündigte Meloni ein Gesetz an, das "Grundlagen und Regeln" für KI-Technik festlegen soll, die den AI Act der Europäischen Union ergänzt. "Wir sind überzeugt, dass es einen italienischen Weg zur Künstlichen Intelligenz geben kann", sagte sie.
Die Ankündigung erfolgte im Rahmen einer KI-Konferenz in Rom. Italien hat im Januar die G7-Präsidentschaft übernommen und plant, sich auf die Auswirkungen von KI auf den Arbeitsmarkt und die Ungleichheit zu konzentrieren. Italiens Regierung will sich auch für Schutzmaßnahmen angesichts der rasanten Entwicklung der Technik einsetzen. Auf nationaler Ebene will die Dreiparteienkoalition das Land in Bezug auf KI wettbewerbsfähiger machen, da es "offensichtlich" Verbesserungsbedarf gebe. Meloni betonte, dass die Rechte und Bedürfnisse der Menschen im Mittelpunkt stehen müssten. Die Regierung arbeite derzeit an einer nationalen KI-Strategie und suche nach der geeignetsten Behörde für die Überwachung von KI-Technik.
US-Bericht warnt vor KI-Sicherheitsrisiken und empfiehlt drastische Maßnahmen
Ein von der US-Regierung in Auftrag gegebener Bericht warnt vor erheblichen nationalen Sicherheitsrisiken durch Künstliche Intelligenz und empfiehlt weitreichende politische Maßnahmen. Der Bericht mit dem Titel "An Action Plan to Increase the Safety and Security of Advanced AI" wurde von Gladstone AI verfasst, einem Unternehmen, das technische Briefings für Regierungsbeamte zum Thema KI durchführt. Er basiert auf Interviews mit mehr als 200 Experten, Regierungsbeamten und Mitarbeitern von KI-Unternehmen wie OpenAI, Google DeepMind, Anthropic und Meta.
Die Autoren schlagen unter anderem vor, das Open-Sourcing von fortgeschrittenen KI-Modellen zu verbieten und Verstöße mit Gefängnisstrafen zu ahnden. Eine solche Maßnahme würde beispielsweise Meta betreffen, das mit der geplanten Veröffentlichung von Llama 3 ein offenes Modell auf GPT-4-Niveau anbieten dürfte. Metas KI-Chef Yann LeCun sieht Open Source als wichtigen Baustein für sicherere KI. Darüber hinaus empfehlen sie, dass der US-Kongress das Training von KI-Modellen ab einer bestimmten Rechenleistung verbieten sollte, wobei die Schwelle von einer neuen Bundesbehörde für KI festgelegt werden sollte.
Angesichts der potenziellen Gefahren durch KI sei die Philosophie "move fast and break things" nicht mehr angemessen, so die Autoren.
Aus dem Bericht gehen auch erhebliche Sicherheitsbedenken der Mitarbeiter führender KI-Unternehmen hervor. Einige äußerten sich besorgt über unzureichende Sicherheitsvorkehrungen in KI-Labors und fehlende Anreize für Führungskräfte, die Sicherheit ihrer Arbeit zu gewährleisten.
Darüber hinaus fordert der Bericht strengere Sicherheitstests, da die derzeitigen Bewertungen leicht manipuliert werden können.
OpenAI GPT-4.5 Turbo durchgesickert, möglicher Start im Juni
Gerüchte über ein mögliches GPT-4.5 gibt es seit Dezember, nun scheint OpenAI's GPT-4.5 Turbo durchgesickert zu sein, da Suchmaschinen wie Bing und Duck Duck Go die Produktseite bereits indexiert haben, auch wenn der Link noch auf eine Fehlerseite führt. Laut dem sichtbaren Teasertext ist GPT-4.5 Turbo das bisher schnellste, genaueste und skalierbarste Modell von OpenAI. Das Kontextfenster, das bestimmt, wie viele Wörter das Modell gleichzeitig verarbeiten kann, soll mit 256.000 Token doppelt so groß sein wie bei GPT-4 Turbo. Diese 256.000 Token entsprechen ungefähr 200.000 Wörtern.
Die Teaser-Beschreibung zeigt, dass GPT-4.5 Turbo bis Juni 2024, dem sogenannten "Knowledge Cutoff Date", aktuell ist, was auf eine Veröffentlichung des neuen Turbo-Modells im Juni hindeuten könnte. Dies wäre jedoch untypisch für OpenAI, da frühere Modelle sofort nach ihrer Vorstellung verfügbar waren. Es könnte sich also auch um einen Platzhalter handeln.
Midjourney erhält Feature für konsistente Charaktere
Midjourney testet die neue "Character Reference"-Funktion für KI-generierte Bilder, die eine konsistente Darstellung von Charakteren über verschiedene Bilder hinweg ermöglicht. Durch die Verwendung eines Referenzbildes als Vorlage kann der Benutzer den gleichen Charakter in verschiedenen Bildern beibehalten. Per Befehl kann die Stärke der Referenz von 100 (Gesicht, Haare, Kleidung) bis 0 (nur Gesicht) angepasst werden, um Outfits oder Frisuren zu variieren. Diese Funktion eignet sich besonders für Figuren, die aus Midjourney-Bildern erstellt wurden, und weniger für Fotos realer Personen.
Diese Innovation könnte zu neuen Anwendungen für das generative Modell führen, z. B. zur Erstellung von Bildgeschichten, Comics und virtuellen Modellen in verschiedenen Bildserien.
(vbr)
