Künstliche Intelligenz / Expertensysteme
Dieses Referat basiert auf einem Beitrag von Dr. Jelden im Studienbrief Nr. 5 des Funkkolleg Technik - einschätzen - beurteilen - bewerten, Tübingen, 1995.
Von Andreas Loch
Zu den neueren Informationstechnologien gehören auch die Expertensysteme, die man früher als künstliche Intelligenz bezeichnet hat. Den meisten Anwendern ist jedoch nicht klar, um was es sich hierbei eigentlich handelt und welche Kriterien beim Einsatz dieser Systeme beachtet werden müssen.
Ich möchte hier nur kurz einen Problembereich beim Einsatz dieser Systeme anreißen.
Die herkömmlichen EDV-Systeme verwalten und verarbeiten Informationen Schritt für Schritt nach festen Programmvorschriften.
Expertensysteme gehen doch einen Schritt weiter. Die ihnen zur Verfügung stehenden Informationen erschließen sie sich quasi selbständig anhand von Regeln wie:
"Wenn es regnet nimm den Schirm mit"
Diese Kombination aus Wissensbasis und Regelwerk ist durchaus mit dem Fachwissen eines Menschen vergleichbar.
Anfang der fünfziger Jahre hat man noch versucht, die gesamte Leistungsfähigkeit des menschlichen Gehirns nachzuvollziehen und auf den Computer zu übertragen.
Heute bemüht sich die Wissenschaft festumrissene Probleme aus einem eng begrenzten Fachgebiet zu lösen, z.B. Erkennung natürlicher Sprache oder die Schadensanalyse bei Versicherungen.
Jeder Mensch, der Entscheidungen fällt, kann sich irren. Dies trifft so auch zu. Mögliche Fehlerquellen können sich in der Wissensbasis oder im Regelwerk befinden. Ist die Wissensbasis noch relativ leicht zu kontrollieren und zu korrigieren, so sieht dies bei dem Regelwerk schon anders aus.
Dieser Teil eines Expertensystems wird für einen ganz speziellen Problembereich entworfen. Die jeweiligen Entwickler haben eigene Vorstellungen von der Problematik und über die möglichen Lösungswege. So ist es sehr wahrscheinlich, daß relevante Kriterien nicht erkannt oder als unwesentlich für die Problemlösung betrachtet werden. Der kontrollierende Mensch hat kaum eine Möglichkeit solche Fehlerquellen zu erkennen.
So wurde z.B. 1982, während des Falklandkrieges, ein britisches Schlachtschiff durch eine von den Argentiniern abgefeuerten Rakete versenkt. Das für die Raketenabwehr zuständige Expertensystem ortete und identifizierte die anfliegende Waffe. Dies geschah auch rechtzeitig genug, um Gegenmaßnahmen einzuleiten. Trotzdem wurden die zuständigen Offiziere nicht informiert.
Der Grund hierfür war leicht nachvollziehbar. Die Argentinier hatten diesen Raketentyp einige Jahre zuvor von den Briten erhalten. Das Expertensystem sah nun in einem "britischen" Waffensystem keine Bedrohung für das Schiff. Ein Mensch hätte diese Situation schon allein anhand der Flugrichtung der Rakete als Gefahr angesehen.
Natürlich haben nicht alle Fehlentscheidungen solch dramtischen Folgen.
Gibt ein Expertensystem bei der automatisierten Fahrplanauskunft eine unkorrekte Antwort, so ist die schlimmste Folge wohl "nur" ein verärgerter Fahrgast.
Aus diesen Beispielen heraus läßt sich bereits eine Forderung für den Einsatz der Expertensysteme ableiten.
Expertensysteme dürfen nur dort unkontrolliert und somit verbindliche Entscheidungen treffen, wo Fehlentscheidungen ohne nennenswerte Auswirkungen bleiben.
In Bereichen, in denen schwerwiegende Schäden angerichtet oder gar Menschen zu Schaden kommen können, dürfen Expertensysteme niemals eigene, unkontrollierte Entscheidungen treffen.
Sie dürfen hier ausschließlich als Unterstützung für den Menschen gelten, der dann seine eigene Entscheidung treffen und verantworten muß.
Hierzu muß natürlich der Anwender so Kompetent sein, daß er das Problem eigenständig analysieren und lösen kann. Nur so kann er die vom Expertensystem getroffene Entscheidungen bewerten.
Bei den bisherigen Projekten, deren Entwicklung und Einsatz von der Öffentlichkeit mit großem Interesse verfolgt wurde, ist diese Forderung wohl erfüllt. Es bleibt aber fraglich, ob dies auch bei weniger spektakulären Einsatzgebieten zukünftig der Fall sein wird.
Denn heute wird leider allzu häufig nach dem Prinzip verfahren "Equipment ist wirtschaftlicher als der Mensch".
Die Folge wird sein, daß weniger und schlechter qualifizierte Anwender immer mehr Entscheidungen von Expertensystemen treffen lassen und diese Entscheidungen nicht mehr überwachen können.
Wir, als zukünftige Informationsspezialisten, müssen nun in unseren Einflußbereichen die Menschen für diese und andere Probleme beim Einsatz der Expertensysteme sensibilisieren. Wir müssen Einfluß nehmen beim Einsatz und bei der Entwicklung dieser Technologie.
zurück zur Hauptseite