wissen.de Artikel
Künstliche Intelligenz - Wie gefährlich sind Maschinenhirne?
Aber wie funktionieren diese Maschinenhirne eigentlich? Und wie weit ist ihre Entwicklung? Werden wir demnächst mit KI-Systemen konfrontiert, die schlauer sind als wir? Eyke Hüllermeier, Leiter des Fachgebiets Intelligente Systeme und Maschinelles Lernen der Universität Paderborn, erklärt im Gespräch, wie Künstliche Intelligenz funktioniert, wie sie dem Menschen viel über sein eigenes Verhalten verraten kann und wagt einen Blick in die Zukunft.
Künstliche Intelligenz scheint immer komplexer zu werden und beeinflusst unser Leben stärker denn je. Was genau ist Künstliche Intelligenz? Und was steckt hinter intelligenten Systemen?
Hüllermeier: Künstliche Intelligenz ist eine wissenschaftliche Disziplin, die oft der Informatik zugeordnet wird. Sie hat aber auch Berührungspunkte mit vielen anderen Fachgebieten wie der Mathematik, den Ingenieurwissenschaften, der Psychologie, den Neurowissenschaften, der Biologie, der Philosophie und der Linguistik. Eine präzise Definition des Begriffes „KI“ gibt es jedoch nicht. Marvin Minsky, einer der Väter der KI, hat einmal gesagt: "Künstliche Intelligenz ist die Wissenschaft, Maschinen die Dinge tun zu lassen, für die ein Mensch Intelligenz benötigen würde." Aber dies führt unmittelbar zu der nicht minder schwierigen Frage nach der menschlichen Intelligenz.
Gemäß der heute vorherrschenden Auffassung, beschäftigt sich die KI mit Methoden zur Entwicklung sogenannter problemlösender Agenten, die sich im Sinne einer zu lösenden Aufgabe möglichst rational verhalten und sich gleichzeitig durch "menschliche" Eigenschaften wie Lernfähigkeit, Autonomie, Fehlertoleranz und ähnliches von anderen Softwaresystemen abgrenzen. Die Umsetzung solcher Ansätze für konkrete Anwendungen bezeichnet man als intelligente Systeme, wobei es sich sowohl um Hardware, z. B. einen Roboter, als auch um Software, wie ein Empfehlungssystem, handeln kann.
Welche Formen der künstlichen Intelligenz gibt es?
Hüllermeier: KI-Forscher unterscheiden dabei verschiedene Stufen und Formen der KI. Als „Schwache KI“ gilt die Simulation intelligenten Verhaltens, bei der die Maschine einzelne, konkrete Aufgaben besonders gut beherrscht, dazu zählt beispielsweise die Spracherkennung oder individuelle Werbung. „Starke KI“ dagegen spricht Maschinen ein Bewusstsein, Empfindungsvermögen und eigenständiges Handeln zu. Als quasi universelle Intelligenz verfügt diese KI über die gleichen intellektuellen Fertigkeiten wie der Mensch oder übertrifft ihn sogar darin.
In der Geschichte der KI hat es unterschiedliche Paradigmen zum Entwurf intelligenter Systeme gegeben. In den 1980er und 90er Jahren waren beispielsweise sogenannte Expertensysteme sehr erfolgreich. Sie haben versucht, menschliches Expertenwissen zu formalisieren, beispielsweise in Form einfacher Wenn-Dann-Regeln, um diese der logischen Verarbeitung durch den Computer zugänglich zu machen.
Derzeit wird die KI dominiert durch Methoden des maschinellen Lernens, die darauf abzielen, ein KI-System basierend auf empirischen Daten, die es durch Interaktion mit seiner Umgebung erzeugen kann, zu „trainieren“ – statt sein Verhalten explizit zu programmieren. Dadurch kann das System seine Leistung erfahrungsbasiert verbessern. Meine Arbeitsgruppe widmet sich ebenfalls der grundlagenorientierten Forschung in diesem Bereich.
Wie nah kommt Künstliche Intelligenz heute schon der menschlichen?
Hüllermeier: Obwohl Maschinen inzwischen viele Aufgaben übernehmen, die bislang dem Menschen vorbehalten waren, sind die Eigenschaften von Mensch und Maschine oft sehr unterschiedlich und ihre Stärken komplementär. Maschinen können sehr präzise rechnen, Informationen logisch konsistent verarbeiten, schnell, systematisch und ausdauernd suchen und Muster in hochkomplexen Daten entdecken.
Im Vergleich zum Menschen sind sie aber deutlich weniger robust, und es mangelt ihnen (noch) am gesunden Menschenverstand. KI-Systeme sind meist extrem spezialisiert auf eine Aufgabe, die sie gut beherrschen. Diese Fähigkeit ist jedoch in keinerlei Alltagswissen eingebettet. Etwas vereinfacht könnte man sagen, dass die Maschine wenige Dinge sehr gut kann, während der Mensch sehr viele Aufgaben mehr oder weniger gut meistert.
Können wir als Menschen sogar von Künstlicher Intelligenz lernen?
Hüllermeier: Die Frage, was Menschen von Maschinen lernen können, ist ähnlich der Frage, was Vögel von Flugzeugen lernen können. Eigentlich ist man ja eher umgekehrt daran interessiert, Maschinen „menschlicher“ zu machen. Aber allein die Diskussion über Eigenschaften wie Rationalität und Fairness, die wir von Maschinen erwarten, bewirkt natürlich, dass wir uns auch selbst kritisch damit auseinandersetzen müssen.
KI kann uns viel über unser eigenes Verhalten verraten. Beispielsweise könnte ein maschinelles Lernverfahren, das die Entscheidungen eines Richters als Trainingsinformation verwendet, um ein prädiktives Modell zu konstruieren, dabei helfen, das Entscheidungsverhalten des Richters transparent zu machen – vorausgesetzt natürlich, das Modell selbst besitzt eine gewisse Interpretierbarkeit.
Die KI-Anwendungsfelder scheinen derzeit unendlich. Welche Bereiche betrifft KI gegenwärtig und wo wird sie eingesetzt? Was erwartet uns in Zukunft?
Hüllermeier: Tatsächlich gibt es kaum noch Bereiche, in denen die KI nicht Einzug gehalten hat oder zumindest dabei ist, dies zu tun. Besonders bekannte Anwendungen der KI sind derzeit intelligente Systeme im industriellen Kontext, beispielsweise Roboter oder intelligente Wartungssysteme in der industriellen Fertigung, Stichpunkt „Industrie 4.0“, Personalisierungs- und Empfehlungssysteme von Google, Amazon und Co. oder das autonome Fahren.
Aber auch in vielen anderen Gebieten, wie der Medizin, ist die KI auf dem Vormarsch. Dabei spielt anwendungsorientierte Forschung eine große Rolle, wie wir sie im Kompetenzbereich „Smart Systems“ des Software Innovation Campus Paderborn (SICP) betreiben. Als Schnittstelle zwischen Wissenschaft und Industrie entwickeln wir dort gemeinsam mit Unternehmen Lösungen für Probleme aus der industriellen Praxis, um beispielsweise die Effizienz in der Produktion zu steigern.
Prognosen zur Entwicklung der KI lagen allerdings schon in der Vergangenheit regelmäßig daneben und sind angesichts der rasanten technischen Entwicklung heutzutage nicht leichter geworden. Sicher ist, dass die KI einen enormen Einfluss auf alle Bereiche unseres Lebens und unserer Gesellschaft haben wird. Spannend, aber weitgehend offen, ist die Frage, wann die KI einen Reifegrad erreicht haben wird, der sie kognitiv auf eine Stufe mit dem Menschen stellt, und ob dies überhaupt gelingt.
Wo liegen Ihrer Ansicht nach Möglichkeiten der KI und wann wird sie gefährlich?
Hüllermeier: Im Sinne von Assistenzsystemen können KIs die Fähigkeiten des Menschen verbessern und optimal ergänzen, beispielsweise die Expertise des Arztes bei der medizinischen Diagnose und Therapieplanung. Viele Tätigkeiten, die monoton und für den Menschen sehr anstrengend sind, wie in der industriellen Fertigung, können sogar komplett automatisiert werden. Auf diese Weise kann KI unsere Lebensqualität deutlich verbessern. Aber man kann sicherlich noch weiterdenken. Viele der großen Herausforderungen unserer Zeit, sei es Klimawandel, Welternährung oder die Bekämpfung von Krankheiten, werden wir mit dem Einsatz von KI deutlich besser meistern können als ohne.
Aber natürlich gibt es keine Chancen ohne Risiken. Viele wichtige Fragen, vor allem rechtlicher Natur, sind noch vollkommen ungeklärt. Auch die gesellschaftlichen Implikationen sind derzeit nur schwer abschätzbar, sicher lauern auch hier gewisse Gefahren. Man blicke nur nach China, wo bereits jetzt Social Scoring Systeme eingesetzt werden, die aus ethischer Sicht viele Fragen aufwerfen. Auch wenn Computersysteme Entscheidungen über die Vergabe von Krediten oder Jobangebote der Arbeitsagentur treffen, ist jeder Bürger potenziell betroffen und muss sich Gedanken über Aspekte wie Fairness, Transparenz und die Gefahr der Diskriminierung machen.
Von Science-Fiction-Szenarien, in denen KI-Systeme ihren eigenen Willen entwickeln und die Weltherrschaft anstreben, sind wir meines Erachtens aber weit entfernt. Dennoch existieren reale Gefahren, derer man sich bewusst sein muss. Denn viele der schon praktisch eingesetzten autonom agierenden KI-Systeme sind nicht mehr vollständig kontrollierbar. Man betrachte allein das Beispiel des automatisierten Handels, wo im Millisekundentakt über Millionenbeträge entschieden wird. Dabei erscheinen finanzielle Risiken wie Kursabstürze im Vergleich zu den Gefahren autonomer Waffensysteme noch geradezu harmlos.