Künstliche Intelligenz kompakt

Künstliche Intelligenz (KI) findet in immer mehr Bereichen Anwendung. Sie bezeichnet Systeme, die sich intelligent verhalten, indem sie ihre Umgebung analysieren und Maßnahmen ergreifen, um spezifische Ziele erreichen zu können. KI-Systeme können softwarebasiert sein oder in Hardwareinfrastruktur integriert werden. In der Regel wirken sie als Komponente größerer Systeme und nicht als eigenständige Einheiten. Intelligente Systeme benötigen Rationalität, um den optimalen Weg zur Erreichung eines bestimmten Ziels auswählen zu können. Sie können in digitalen oder physischen Dimensionen wirken.

Maschinelles Lernen

Ein zentraler Teilbereich der KI ist das maschinelle Lernen, zu dem auch Deep Learning gehört. Maschinelles Lernen konzentriert sich auf Algorithmen, die Muster aus Trainingsdaten „lernen“ und auf dieser Grundlage genaue Vorhersagen für neue Daten treffen können.

Arten des maschinellen Lernens: Das überwachte Lernen („supervised learning“) ist eine Form des maschinellen Lernens, bei der Modelle mit gelabelten Datensätzen trainiert werden, um zugrunde liegende Zusammenhänge zu erkennen und auf dieser Basis präzise Vorhersagen für neue Daten zu treffen. Im Gegensatz dazu ermöglicht das unüberwachte Lernen („unsupervised learning“) die Analyse ungelabelter Datensätze und die eigenständige Erkennung von Mustern ohne menschliches Eingreifen. Eine typische Methode des unüberwachten Lernens ist das Clustering, bei dem Daten anhand gemeinsamer Merkmale in Gruppen organisiert werden.

Das halbüberwachte Lernen („semi-supervised learning“) ist eine Kombination aus überwachtem und unüberwachtem Lernen: Es werden sowohl gelabelte als auch ungelabelte Daten zum Trainieren von Modellen verwendet. Diese Kombination ist insbesondere dann vorteilhaft, wenn weder vollständig überwachte noch vollständig unüberwachte Verfahren für sich genommen adäquate Lösungen ermöglichen. Das Reinforcement Learning nutzt autonome Agenten, die durch Interaktion mit ihrer Umgebung und auf Basis von Feedback lernen, Entscheidungen zu treffen. Deep Learning ist ein Teilbereich des maschinellen Lernens, der auf neuronalen Netzen basiert und komplexe, verborgene Muster erkennen kann.

„Black Box“-Problem

Bei der Anwendung von KI-Systemen stellt mangelnde Erklärbarkeit häufig eine zentrale Herausforderung dar, insbesondere in Hochrisikosituationen, wie sie beispielsweise in der Medizin auftreten. Obwohl KI-Systeme oftmals eine hohe Leistungsfähigkeit aufweisen, kann es sein, dass es ihnen mitunter an Transparenz fehlt. Dieses sogenannte „Black Box“-Problem beschreibt die fehlende Nachvollziehbarkeit der Entscheidungswege – es bleibt unklar, wie das System von Punkt A zu Punkt B gelangt und welche Logik dahinter liegt. Dies kann zu Vertrauensproblemen führen und den Einsatz solcher Systeme in bestimmten Bereichen erschweren. Daher ist es wichtig, intelligente Systeme aufzubauen, in denen Erklärbarkeit und Interpretierbarkeit im Vordergrund stehen.

Die 3 Säulen vertrauenswürdiger KI

Vertrauenswürdige KI basiert auf 3 Komponenten, die während des gesamten Lebenszyklus des Systems erfüllt sein müssen. Sie muss:

• alle geltenden Gesetze einhalten,
• ethisch handeln und die Einhaltung von ethischen Prinzipien und Werten gewährleisten,
• robust sein – sowohl in technischer als auch in sozialer Hinsicht; da KI-Systeme selbst bei guter Intention unbeabsichtigten Schaden verursachen können.

Alle 3 Komponenten sind immer notwendig, jedoch ist selbst das Vorhandensein aller Komponenten nicht unbedingt hinreichend für die Entwicklung von vertrauenswürdiger KI. Ideal wäre, wenn alle 3 Komponenten harmonisch zusammenwirken und sich gegenseitig ergänzen.

Ethische und regulatorische Anforderungen

Bei KI-Systemen sollten Fairness und Erklärbarkeit berücksichtigt, die menschliche Autonomie respektiert und potenzielle Schäden vermieden werden, und zwar über den gesamten Lebenszyklus hinweg – von der Entwicklung bis zur Anwendung. Besondere Aufmerksamkeit ist erforderlich, wenn schutzbedürftige Gruppen betroffen sind, etwa Kinder, Menschen mit Behinderungen oder historisch benachteiligte bzw. gefährdete Personen, sowie in Situationen mit Informations- oder Machtasymmetrien.

Obwohl KI-Systeme zahlreiche Vorteile bieten können, sind sie stets mit Risiken verbunden, die nicht immer vollständig kalkulierbar sind. Basierend auf den Leitlinien der Europäischen Kommission sollten KI-Systeme daher folgende Anforderungen erfüllen: menschliches Handeln und Aufsicht, technische Robustheit, Datenschutz und Daten-Governance, Transparenz, Fairness, Wohlbefinden in der Gesellschaft und der Umwelt sowie Rechenschaftspflicht. Darüber hinaus sind die Menschenrechte während des gesamten Lebenszyklus eines KI-Systems zu wahren, einschließlich des Rechtes auf Menschenwürde, Freiheit, Gleichwertigkeit, Solidarität, Leben, Nichtdiskriminierung, Privatsphäre, Transparenz und Sicherheit. In Bezug auf die menschliche Aufsicht sollten regelmäßige Kontrollen erfolgen und alle beteiligten Personen adäquat geschult sein.

Gemäß dem EU Artificial Intelligence Act sollte die menschliche Aufsicht während der gesamten Nutzungsdauer solcher Systeme gewährleistet sein und nicht nur in den initialen Stadien oder in der Entwicklungsphase. Die ergriffenen Maßnahmen sollten den potenziellen Risiken entsprechen und vor einer breiten Anwendung ausreichend getestet werden, um mögliche Einschränkungen frühzeitig erkennen zu können. Zudem sollte stets die Möglichkeit zum Eingreifen („Stopp-Knopf“) vorhanden sein, um die Sicherheit stets gewährleisten zu können.

Fazit

KI ist ein Tool mit vielfältigen Vorteilen, wenn sie richtig eingesetzt wird. Es gibt unterschiedliche Ansätze, mit denen KI-Systeme lernen können. Ihr Einsatz erfordert strenge ethische und rechtliche Rahmenbedingungen, um sicherzustellen, dass keine Sicherheitsbedenken bestehen. Die Nutzung von KI-Systemen sollte daher in allen Phasen den geltenden Bestimmungen unterliegen.