--- title: Menschliche Aufsicht über KI: Herausforderungen und Fortschritte in der Technologie canonical: https://digital-zentral.de/menschliche-aufsicht-ueber-ki-herausforderungen-und-fortschritte-in-der-technologie/ author: Felix Weipprecht published: 2025-10-08 updated: 2025-10-08 language: de category: Künstliche Intelligenz description: Die menschliche Aufsicht über KI ist entscheidend, um Risiken zu minimieren, während deutsche Unternehmen lokale KI-Lösungen entwickeln und die Uni Magdeburg einen neuen Studiengang zur praktischen Anwendung von KI einführt. source: digital zentral --- # Menschliche Aufsicht über KI: Herausforderungen und Fortschritte in der Technologie > **Autor:** Felix Weipprecht | **Veröffentlicht:** 2025-10-08 **Zusammenfassung:** Die menschliche Aufsicht über KI ist entscheidend, um Risiken zu minimieren, während deutsche Unternehmen lokale KI-Lösungen entwickeln und die Uni Magdeburg einen neuen Studiengang zur praktischen Anwendung von KI einführt. --- ## Wie menschliche Aufsicht über Künstliche Intelligenz gelingt Die Diskussion um die menschliche Aufsicht über Künstliche Intelligenz (KI) wird durch tragische Vorfälle wie den tödlichen Unfall eines selbstfahrenden Autos von Uber im Jahr 2018 verstärkt. Bei diesem Vorfall wurde eine Frau von einem KI-gesteuerten Fahrzeug erfasst, während die Sicherheitsfahrerin abgelenkt war. Laut der amerikanischen Behörde für Verkehrssicherheit war nicht die KI, sondern die menschliche Aufsicht verantwortlich für den tödlichen Vorfall. Dies wirft die Frage auf, ob Menschen in der Lage sind, die Risiken von KI-Systemen effektiv zu kontrollieren. > „Menschliche Aufsicht ist also keine bloße 'Checkbox'-Aufgabe oder bürokratische Übung, sondern verantwortungsvolle Arbeit.“ - FAZ Die europäische KI-Verordnung fordert, dass Menschen gezielt eingesetzt werden, um Risiken für Gesundheit, Sicherheit und Grundrechte zu minimieren. Experten sind sich uneinig, ob Menschen in der Lage sind, diese Aufsicht effektiv auszuüben, da sie oft nicht über die nötigen Informationen oder die Zeit verfügen, um Risiken im laufenden Betrieb der KI abzuwenden. Dennoch gibt es auch die Ansicht, dass unter den richtigen Bedingungen Menschen durchaus in der Lage sind, KI zu überwachen und einzugreifen. **Zusammenfassung:** Menschliche Aufsicht über KI ist entscheidend, um Risiken zu minimieren, jedoch gibt es Bedenken hinsichtlich der Effektivität dieser Aufsicht. ## Deutsche Industrie: So setzen Bosch, Siemens und Festo lokale KI ein Die deutsche Industrie, vertreten durch Unternehmen wie Bosch, Siemens und Festo, setzt zunehmend auf lokale KI-Lösungen, um sich von großen US-KI-Anbietern unabhängig zu machen. Diese Unternehmen entwickeln kleine KI-Modelle, die mit einer einzigen Gaming-GPU, wie der RTX 5090 von Nvidia, betrieben werden können. Diese GPU kostet unter 2500 Dollar und ermöglicht es, leistungsstarke KI-Modelle lokal auszuführen. Die Implementierung dieser Technologien schafft die Grundlage für vollautonome Maschinen und neue Geschäftsmodelle. Die Forschungsergebnisse von Epoch AI belegen, dass die Leistungsfähigkeit dieser kleinen KI-Modelle in den letzten Monaten erheblich gestiegen ist, was die Wettbewerbsfähigkeit der deutschen Industrie stärkt. **Zusammenfassung:** Deutsche Unternehmen setzen auf lokale KI-Lösungen, um unabhängig von großen Anbietern zu werden und neue Geschäftsmodelle zu entwickeln. ## Uni Magdeburg: Neuer Studiengang zur Anwendung von KI An der Universität Magdeburg wurde ein neuer Studiengang namens AI Engineering eingeführt, der sich mit der praktischen Anwendung von Künstlicher Intelligenz beschäftigt. Dieser Studiengang ist ein bundesweit einmaliges Projekt, das fünf Hochschulen in Sachsen-Anhalt vereint. Die Studierenden lernen, wie KI-Algorithmen in verschiedene Systeme integriert werden können, was für die Industrie von großer Bedeutung ist. Der Studiengang bietet eine praxisnahe Ausbildung, die sowohl theoretische als auch praktische Aspekte der KI-Anwendung umfasst. Die Studierenden haben die Möglichkeit, mit modernen Technologien zu arbeiten und ihre Kenntnisse in realen Projekten anzuwenden, was ihre Beschäftigungsfähigkeit auf dem Arbeitsmarkt erhöht. **Zusammenfassung:** Der neue Studiengang AI Engineering an der Uni Magdeburg bietet eine praxisnahe Ausbildung in der Anwendung von KI und vereint mehrere Hochschulen. ## KI verbessert die Wettervorhersage In der Wettervorhersage kommt zunehmend Künstliche Intelligenz zum Einsatz, was zu einer Revolution in der Branche führt. GeoSphere Austria nutzt KI, um Wetterdaten schneller und präziser zu analysieren. Laut Meteorologe Alexander Ohms ermöglicht die KI eine schnellere Verarbeitung von Millionen von Daten, die aus der ganzen Welt eingehen, und verbessert somit die Vorhersagen erheblich. Die neuen KI-Modelle sollen in der Lage sein, Wetterprognosen in kürzeren Zeitabständen zu liefern, was insbesondere bei plötzlichen Wetterereignissen von Vorteil ist. Die KI orientiert sich an historischen Wetterlagen und trifft Vorhersagen auf statistischer Basis, was die Genauigkeit der Modelle erhöht. **Zusammenfassung:** Künstliche Intelligenz revolutioniert die Wettervorhersage, indem sie die Analyse von Wetterdaten beschleunigt und die Genauigkeit der Prognosen verbessert. ## Künstliche Intelligenz hilft Pflegekräften Im Haus Maria Regina in Diestedde wird die Pflegedokumentation durch die Software „Voize“ revolutioniert, die Spracheingabe nutzt, um Beobachtungen und Messwerte der Pflegekräfte automatisch in Text umzuwandeln. Dies spart den Pflegekräften pro Schicht bis zu 45 Minuten, die sie nun direkt den Bewohnern widmen können. Das System erkennt Dialekte und kann komplexe Informationen verarbeiten, was besonders bei der Aufnahme neuer Bewohner hilfreich ist. Die Einführung dieser Technologie zeigt, wie digitale Lösungen den Pflegealltag erleichtern können, ohne die persönliche Zuwendung zu vernachlässigen. **Zusammenfassung:** Die Software „Voize“ verbessert die Effizienz der Pflegedokumentation und entlastet Pflegekräfte, sodass sie mehr Zeit für die Bewohner haben. Quellen: - [Wie menschliche Aufsicht über Künstliche Intelligenz gelingt](https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/wie-menschliche-aufsicht-ueber-kuenstliche-intelligenz-gelingt-110719480.html) - [Deutsche Industrie: So setzen Bosch, Siemens und Festo lokale KI ein](https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/deutsche-industrie-so-setzen-bosch-siemens-und-festo-lokale-ki-ein-110718548.html) - [Uni Magdeburg: Neuer Studiengang zur Anwendung von KI](https://www.mdr.de/nachrichten/sachsen-anhalt/magdeburg/magdeburg/ki-uni-magdeburg-100.html) - [KI verbessert die Wettervorhersage](https://ooe.orf.at/stories/3324845/) - [(HBm+) Beratungen: Künstliche Intelligenz erschüttert Geschäftsmodelle](https://www.manager-magazin.de/hbm/beratungen-kuenstliche-intelligenz-erschuettert-geschaeftsmodelle-a-47e5daf1-43cb-4c2a-857f-7c679d021f86) - [Diestedde: Künstliche Intelligenz hilft Pflegekräften](https://www.die-glocke.de/kreis-warendorf/wadersloh/artikel/diestedde-kuenstliche-intelligenz-hilft-pflegekraeften-1759846450) --- *Dieser Artikel wurde ursprünglich veröffentlicht auf [digital-zentral.de](https://digital-zentral.de/menschliche-aufsicht-ueber-ki-herausforderungen-und-fortschritte-in-der-technologie/)* *© 2026 digital zentral*