KI zwischen Sicherheitsrisiken, Regulierung und beruflichem Wandel

Künstliche Intelligenz zwischen Sicherheitsrisiken, Regulierung und beruflichem Wandel

Warnungen vor Kontrollverlust und möglichen Gefahren

Der „Spiegel“ beschäftigt sich mit der Frage, wie Künstliche Intelligenz die Menschheit gefährden könnte. Als mögliche Risiken werden unter anderem Biowaffen, Cyberattacken und Roboter genannt. Der Beitrag trägt den Titel „Weltuntergang durch KI? Wie soll das denn passieren?“ und stellt KI zugleich als Chance und als Gefahr dar.

Der Artikel verweist außerdem auf die Debatte über eine mögliche Machtübernahme durch Computersysteme. Als verwandte Themen werden unter anderem die KI-Krise, der Missbrauch von KI zum Datendiebstahl, Betrug und Waffenbau sowie Warnungen des KI-Forschers Geoffrey Hinton genannt.

„Die KI löscht die Menschheit aus? Wie das konkret passieren könnte“

Zusammenfassung: Der „Spiegel“ ordnet mögliche Extremrisiken von KI ein und stellt Szenarien wie Biowaffen, Cyberattacken und den Kontrollverlust über autonome Systeme in den Mittelpunkt.

KI-Unternehmen fordern Entschleunigung – Experten vermuten Eigeninteressen

Die „taz“ berichtet über Forderungen verschiedener KI-Unternehmen, die Entwicklung neuer Modelle zu verlangsamen. Experten bewerten diese Forderungen skeptisch und vermuten dahinter auch strategische und wirtschaftliche Motive.

Michael Kolain vom Zentrum für Digitalrechte und Demokratie bezeichnet die Forderungen als teilweise öffentlichkeitswirksam. Die amerikanischen Anbieter setzten vor allem auf geschlossene KI-Systeme, während die größte Konkurrenz aus China komme, wo Open-Weight-Modelle entwickelt würden.

„Natürlich ist das ein Stück weit PR“

Nach Darstellung der „taz“ seien Architektur und Funktionsweise von Open-Weight-Modellen transparenter. Ihr konkreter Einsatz lasse sich jedoch schwerer überprüfen, weil sie unabhängig auf den Rechnern der Nutzer laufen könnten. Dadurch sei eine Kontrolle der Aufgaben, die Nutzer mit Sprachmodellen ausführen, unmöglich.

Kolain sieht in den öffentlichen Warnungen auch den Versuch, die KI-Entwicklung stärker in den Mittelpunkt des internationalen Diskurses zu rücken. Wenn Donald Trump und Xi Jinping zusammenträfen, könne auf internationaler Ebene darüber gesprochen werden, ob sich Staaten bei der Entwicklung solcher Systeme zumindest abstimmen.

Haftung, Regulierung und geopolitischer Wettbewerb

Matthias Spielkamp von der NGO AlgorithmWatch nennt Haftungsfragen als mögliche Motivation der US-amerikanischen KI-Unternehmen. Die Firmen könnten versuchen, die Verantwortung für fehlerhafte Produkte zu begrenzen.

„Die Firmen versuchen, die Verantwortung für die Fehlerhaftigkeit ihrer Produkte zu minimieren“

Spielkamp zufolge dürften Regulierungsfragen zudem die geopolitische Realität nicht außer Acht lassen. Wenn die Europäische Kommission oder einzelne Länder strenge Vorgaben durchsetzen wollten, werde unmittelbar mit Zöllen gedroht. Er fordert deshalb eine enge Zusammenarbeit über Ländergrenzen hinweg.

Als Beispiel für die Risiken von KI und Cyberangriffen verweist Spielkamp auf den Angriff auf Berliner Senatsverwaltungen im August. Dabei sei keine hoch entwickelte KI eingesetzt worden, um Daten zu stehlen. Hacks könnten durch den Einsatz von KI jedoch einfacher durchzuführen sein.

Kolain sieht außerdem einen Zusammenhang mit Protesten gegen umweltschädigende Rechenzentren in den USA. Wenn Unternehmen ankündigten, bei der Entwicklung langsamer zu werden, könnten sie in der Öffentlichkeit besser dastehen.

• Die Forderungen nach einem langsameren Entwicklungstempo werden als mögliche PR-Strategie bewertet.
• Haftungsfragen könnten die öffentlichen Warnungen der Unternehmen beeinflussen.
• KI kann nach Einschätzung der zitierten Experten Cyberangriffe erleichtern.
• Der Wettbewerb zwischen amerikanischen und chinesischen Anbietern prägt die Debatte.

Zusammenfassung: Die „taz“ stellt die Entschleunigungsforderungen in den Zusammenhang mit PR, Haftung, internationalem Wettbewerb und dem öffentlichen Druck wegen des Energieverbrauchs von Rechenzentren.

Nutzer als Versuchskaninchen und Rolle der EU-Aufsicht

Kolain warnt davor, dass Unternehmen sich im Nachhinein darauf berufen könnten, auf mögliche Gefahren hingewiesen zu haben. Er zieht einen Vergleich zur Pharmabranche und verweist auf die Verschärfung medizinischer Regeln nach dem Contergan-Skandal.

„So, wie es jetzt ist, sind die Nutzer die Versuchskaninchen.“

Statt lediglich ein langsameres Entwicklungstempo anzukündigen, hätten die Unternehmen nach Ansicht Kolains auf das AI Office der EU-Kommission und die Regeln des europäischen KI-Gesetzes verweisen sollen. Das AI Office kann Unterlagen und weitere Informationen von Anbietern anfordern und selbst Evaluierungen von KI-Modellen durchführen.

Die EU-Kommission darf unabhängige Experten beauftragen. Bei Verstößen sind Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes möglich.

Kolain schlägt außerdem vor, ehemalige Beschäftigte von KI-Unternehmen für die KI-Aufsichtsbehörde zu gewinnen und mit Kontrollen zu betrauen.

Infobox: Im Mittelpunkt stehen die Kontrolle von KI-Modellen, unabhängige Evaluierungen und mögliche Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.

Feldexperiment mit 133 Patentanwälten: Berufsanfänger profitieren nur kurzfristig

Die „FAZ“ berichtet über ein Feldexperiment des MIT-Ökonomen David Autor mit 133 Patentanwälten aus amerikanischen Kanzleien. Die Ergebnisse wurden vom National Bureau of Economic Research veröffentlicht.

Dem Bericht zufolge macht Künstliche Intelligenz Berufsanfänger schnell besser. Sie arbeiten mit KI fast so gut wie erfahrene Kollegen, lernen dabei jedoch nichts Nachhaltiges. Wenn die Unterstützung durch KI wegfällt, bleibt von diesem Vorteil nichts übrig.

Erfahrene Anwälte werden durch KI demgegenüber nur etwas besser, nehmen diesen Gewinn aber dauerhaft mit. Damit zeigt das Experiment nach Darstellung der „FAZ“ einen Unterschied zwischen kurzfristiger Leistungssteigerung und langfristigem Kompetenzaufbau.

Zusammenfassung: Laut „FAZ“ verbessert KI die Leistung von Berufsanfängern schnell, führt bei ihnen aber nicht zu einem nachhaltigen Lerneffekt. Erfahrene Anwälte profitieren weniger stark, behalten den Zugewinn jedoch dauerhaft.

Manager Magazin: Unternehmen müssen sich auf steigende KI-Kosten einstellen

Das „Manager Magazin“ thematisiert einen bevorstehenden KI-Kostenschock und fragt, wie Unternehmen darauf reagieren können. Der zugängliche Inhalt enthält jedoch keine weiteren Angaben zu konkreten Maßnahmen, Kosten oder Unternehmensbeispielen.

Der Beitrag ist als Analyse zur Digitalisierung und zu Algorithmen eingeordnet. Die Überschrift stellt die Anpassung von Unternehmen an mögliche steigende Kosten beim Einsatz Künstlicher Intelligenz in den Mittelpunkt.

Zusammenfassung: Das „Manager Magazin“ warnt im Titel vor einem kommenden KI-Kostenschock. Konkrete Zahlen und Handlungsempfehlungen sind im vorliegenden Inhalt nicht enthalten.

Lauterbach fordert weltweite Sicherheitsregeln für KI

„WELT“ berichtet über die Forderung des Vorsitzenden des Forschungsausschusses im Bundestag, Karl Lauterbach (SPD), nach einer weltweiten Regulierung von Künstlicher Intelligenz. Lauterbach erklärte, Deutschland müsse dafür kämpfen, dass eine solche Regulierung komme. Die Selbstregulierung der Unternehmen werde nicht genügen.

„Wir brauchen jetzt tatsächlich Sicherheitsregeln. Auch Deutschland muss dafür kämpfen, dass diese Regulierung kommt. Die Selbstregulierung der Unternehmen wird nicht genügen“

Gefordert werden unabhängige Kontrollen darüber, wozu KI-Modelle in der Lage sind. Besonders gefährliche Nutzungsmöglichkeiten, etwa zur Herstellung waffenfähiger Produkte, müssten abgeschaltet werden. Niemand dürfe ein Modell ohne Sicherheitsgarantien auf den Markt bringen.

Nach Einschätzung Lauterbachs werde KI sehr bald in der Lage sein, terroristisch nutzbare Substanzen zu entwickeln. Als Beispiele nennt er besonders aggressive Viren und toxische Chemikalien. Außerdem warnt er vor KI-Angriffen auf die Finanzmärkte.

„Die Systeme werden Fähigkeiten haben, mit denen sie gigantischen ökonomischen Schaden anrichten könnten“

Lauterbach spricht von einem exponentiell wachsenden Erpressungspotenzial. Staaten mit hoch entwickelter KI könnten enorme Macht über andere Staaten erhalten. Als mögliches Szenario nennt er, dass eine Zweitschlagverteidigung im Fall eines nuklearen Angriffs nicht mehr möglich sein könnte.

Die gesamte Landes- und Bündnisverteidigung müsse daher neu gedacht werden. Europa sei besonders bedroht, weil es keine eigene KI habe, die auch nur annähernd mit den besten amerikanischen und chinesischen Systemen vergleichbar sei.

• Gefordert werden weltweite Sicherheitsregeln für KI.
• Unabhängige Kontrollen sollen die Fähigkeiten von KI-Modellen prüfen.
• Besonders gefährliche Nutzungsmöglichkeiten sollen abgeschaltet werden.
• KI-Angriffe auf Finanzmärkte werden als mögliches Risiko genannt.
• Europa wird im Vergleich zu den besten amerikanischen und chinesischen Systemen als besonders abhängig beschrieben.

Infobox: Karl Lauterbach fordert weltweite Regulierung, unabhängige Kontrollen und Sicherheitsgarantien vor der Markteinführung von KI-Modellen.

Rechtsberatung mit KI: Anwaltliche Haftung bleibt bestehen

„Legal Tribune Online“ berichtet über die rechtlichen, technischen und organisatorischen Herausforderungen beim Einsatz von KI in der anwaltlichen Praxis. KI verspricht demnach Effizienz- und Qualitätssteigerungen, verändert aber zugleich die Anforderungen an die berufliche Verantwortung.

Als typische Einsatzbereiche nennt der Beitrag die Dokumenten- und Vertragsanalyse, Recherche und Wissensmanagement sowie die Erstellung von Schriftsätzen, Verträgen, Korrespondenz und Gutachten.

Beim Einsatz von KI-Tools müssen laut „Legal Tribune Online“ die berufsrechtlichen Pflichten zur eigenverantwortlichen Beratung, Gewissenhaftigkeit und Sachlichkeit nach § 43a Abs. 2 und 3 Bundesrechtsanwaltsordnung beachtet werden. Die anwaltliche Haftung besteht auch für Ergebnisse, die von KI erstellt wurden.

„Die anwaltliche Haftung besteht auch für KI-Ergebnisse.“

Vor einer Versendung an Mandanten sollten KI-Ergebnisse geprüft werden. Der Beitrag verweist auf das aktuelle Anwaltsblatt des Deutschen Anwaltvereins, in dem Dr. Christiane Bierekoven Einsatzbereiche, Rechtsrahmen, Stolpersteine und Lösungsansätze für einen rechtssicheren Rollout skizziert.

Zusammenfassung: „Legal Tribune Online“ betont, dass KI die anwaltliche Verantwortung nicht ersetzt. KI-Ergebnisse müssen geprüft werden, und die anwaltliche Haftung bleibt bestehen.

Quellen:

• (S+) Künstliche Intelligenz: Weltuntergang durch KI? Wie soll das denn passieren?
• Debatte über künstliche Intelligenz: Entschleunigung mit Hintergedanken
• KI und Berufsanfänger: David Autors Feldexperiment
• Künstliche Intelligenz: Wie Firmen den kommenden KI-Kostenschock abfedern können
• „Europa besonders bedroht“ – Lauterbach fordert weltweite Regulierung von KI
• Rechtsberatung mit KI: Wo die Stolpersteine lauern