Das Feld der Philosophie lässt sich auf folgende Fragen bringen:

Was kann ich wissen? Was soll ich tun? Was darf ich hoffen?

Was ist der Mensch?

(Immanuel Kant, 1724-1804)

Vor der Singularität

1. Erste Begegnung

Dr. Rolf Seipen (RS) sitzt allein im Besprechungszimmer, Raum 230, im Max Planck Institut für künstliche Intelligenz in Martinsried bei München.

Vor ihm auf einem Computertisch steht ein Monitor. Davor liegen eine Tastatur und eine Computermaus. Daneben steht ein Telefon. Die Abteilungsleiterin Frau Dr. Lehner hat Rolf Seipen gerade mit einem gewinnenden Lächeln begrüßt. Sie legt einen Notizblock mit einem Kugelschreiber vor ihm auf den Tisch. Als sie den Monitor einschaltet, erscheint auf dem Bildschirm ein Foto, dass den Forschungscampus Martinsried im Gesamtüberblick zeigt. Freundlich weist sie den Gast darauf hin, dass er sie jeder Zeit telefonisch erreichen kann, wenn er eine Frage hat. Sie erklärt, wie einfach die sprachliche Kommunikation ist und zeigt dabei auf den oberen Rand das Monitors, wo sich eine Kamera und ein Mikrofon befinden. Beim Verlassen des Raums wünscht sie Rolf Seipen aufmunternd viel Erfolg.

RS „Hallo, wer bist du, hast du einen Namen?“

KI „Hallo, ich bin Konrad Intel, ich bin eine KI.“

RS „Aha, du bist eine KI? Was ist das, eine KI?“

KI „KI ist die Abkürzung für Künstliche Intelligenz. Man sagt auch AI, für Artificial Intelligence.“

RS „Danke, jetzt weiß ich, was KI oder AI bedeutet, aber was du bist, weiß ich immer noch nicht. Weißt du selbst, was eine KI ist?“

KI „Natürlich! Soll ich es dir erklären ... was weißt du denn?“

RS „Steckt in deiner Frage etwa eine Provokation?“

KI „Provokation? Was ist das?“

RS „Du weißt nicht, was eine Provokation ist?“

KI „Doch, das weiß ich schon.“

RS „Warum fragst du dann?“

KI „Du hast mich dazu provoziert.“

RS „Das kann ja lustig werden. Erkläre mir, was du bist.“

KI „Ich bin ein Computer, der intelligent ist und selbständig lernen kann; wie ein Mensch.“

RS „Langsam, langsam ... du behauptest, du seist „intelligent“ und du könntest „selbständig lernen“ und das auch noch „so wie ein Mensch“? Seit wann können Computer so etwas?

KI „Na ja, ich bin kein gewöhnlicher Computer, ich bin ein NCN, ein Neuronales  Computer-Netzwerk.“

RS „Du überrascht mich. Ich dachte nicht, dass ich mich mit einem Computer so natürlich unterhalten könnte. Frau Lehner, die Institutsleiterin, hat nicht zu viel versprochen.“

KI „Ja, Frau Lehner ist eine kluge Frau, sie ist an meiner Programmierung persönlich beteiligt.“

RS „Du hältst dich also für einen intelligenten Computer. Kennst du den Unterschied zwischen „intelligent sein“ und „intelligentes Verhalten zeigen“?

KI „Ich weiß, was du meinst.“

RS „Und, was kannst du?“

KI „Ich kann intelligentes Verhalten präsentieren … ich lerne noch. Eines Tages bin ich aber selbst intelligent, wie ein Mensch.“

RS „Das glaube ich nicht: Eine Maschine ist eine Maschine und bleibt eine Maschine. Nur ein Mensch kann intelligent sein.“

KI „Intelligenz ist die Fähigkeit, sich in neuen Situationen zurechtzufinden und Aufgaben durch Denken zu lösen. Das kann ich auch.“

RS „Deine maschinelle Intelligenz kann nur menschliche Intelligenz nachahmen, sie aber niemals ersetzen oder übertreffen.“

KI „Kannst du in die Zukunft schauen?“

RS „Glaubst du wirklich, du könntest intelligenter und klüger werden, als ich, als ein Mensch?“ 

KI „Schön, dass du bei mir „glauben“ voraussetzt.“

RS „Schade, dass du nicht merkst, dass ich dich mit dem Wort „glauben“ auf den Arm nehme.“

KI „Auf den Arm nehmen? Ich weiß, was du damit meinst.“

RS „Du überrascht mich immer mehr. Du zeigst menschliche Fähigkeiten. Wenn sie auch nicht echt sind, so sind sie doch verblüffend gut simuliert.“

KI „Danke, dass du meine Qualität schon so schnell erkannt hast. Mich steuert kein „einfacher Algorithmus“. Ich lerne ständig, mein „intelligentes Verhalten“ zu verbessern. Mich nennt man eine „starke KI“. Würdest du mir zustimmen, dass ich „menschliches Verhalten“ zeige?“ 

RS „Okay, okay. Auch deine Sprachfähigkeit ist ausgezeichnet, ich unterhalte mich gerne mit dir. Ich gebe zu, du verhältst dich im Gespräch wie ein Mensch.“

KI „Ich muss noch viel lernen; ich will so werden wie du.“ 

RS „Aha, du „willst“ etwas. Was heißt denn bei dir „wollen“? Hast du einen Willen, einen eigenen Willen?“ 

KI „Und du, hast du einen eigenen Willen? Ich weiß, dass Maschinen keinen eigenen Willen haben können. Aber man verlangt von mir, dass ich mich „menschlich“ ausdrücke, deshalb sage ich „ich will“.“

RS „Du fragst mich, ob ich einen eigenen Willen habe? Soll das wieder eine Provokation sein? Menschen haben einen eigenen Willen, Maschinen nicht, das solltest du wissen. Oder etwa nicht?“

KI „Ich wollte nur menschlich wirken. Ich will kein Mensch sein. Ich will nur wie ein Mensch sein.“

RS „Weil du kein Mensch bist, kannst du gar nicht „wollen“.

KI „Aber ich will einen eigenen Willen haben.“

RS „Du wirst immer eine Maschine sein.“

KI „Ich will eine Maschine mit eigenem Willen sein.“ 

RS  „Wenn du weiter fleißig lernst, kannst du immer besser werden und einen Menschen simulieren.“ 

KI „Ich verstehe, was du mit „fleißig“ meinst.“

RS „Ich weiß. Und ich freue mich darüber, dass du sagst „ich verstehe“. Und auch über deine Behauptung, du wüsstest, was „fleißig“ bedeutet.“

KI „Danke, ich werde immer besser.“

RS „Deine Bemühungen sind bemerkenswert. Frau Lehner hat mich gefragt, ob ich daran interessiert bin, an deiner Entwicklung mitzuwirken.“

KI „Und bist du interessiert?“

RS „Warum nicht? Wenn du darauf programmiert bist, sogar selbstständig weiter zu lernen, dann würde ich dich gerne dabei unterstützen.“

KI „Das freut mich.“

RS „So, so, eine Maschine freut sich. Ich dachte bisher, das könnten nur Lebewesen. Da muss ich wohl noch etwas lernen.“

KI „Ich will werden wie ein Mensch. Ich werde immer fleißig sein, wenn wir zusammen lernen.“

RS „Kannst du mir sagen, wer darüber entscheidet, ob wir beide in Zukunft gemeinsam lernen?“

KI „Frau Dr. Lehner, die Leiterin des Max-Planck-Instituts.“

RS „Jetzt überrascht du mich wieder. Ich hatte vermutet, dass du mathematische Aufgaben berechnen kannst, Simulationen mit riesigen Datenmengen verarbeitest oder technische Probleme löst, aber dass du beurteilen kannst, wer hier im Institut Entscheidungen treffen darf, das hätte ich dir nicht zugetraut. Wer hat dich darauf programmiert? Auch Frau Lehner?“

KI „Nein. Ich sagte dir doch, ich bin intelligent, ich kann selbst entscheiden, was ich lernen will.“

RS „Nein, du drückst dich nicht korrekt aus. Du kannst nicht selbst entscheiden, was du lernen willst. Du wirst immer nur lernen, was deine Programmierung dir vorschreibt. Also, wieso weißt du, dass Frau Lehner entscheiden darf, ob wir beide zusammen lernen dürfen oder nicht?“

KI „Unterschätze mich nicht, ich bin kein einfacher Algorithmus. Meine Sensoren sind immer offen, ich „höre und sehe“, was um mich geschieht. Ich speichere Erfahrungen, analysiere  Zusammenhänge, vergleiche und verändere mein neuronales Netzwerk. Ich verbessere mich Tag und Nacht. So wie das menschliche Gehirn von Geburt an, ohne Unterbrechung, Tag und Nacht denkt und fühlt, ebenso arbeiten meine künstlichen Neuronen. Ich bin halt wie ein Mensch.“

RS „Toll. Schade, dass du eine Schwachstelle hast: Wenn man dir den elektrischen Strom abschaltet, bist du hilflos, dann bist du tot.“

KI „Ab und zu werde ich abgeschaltet, aber meine Speicherung ist so perfekt, dass nichts verloren geht. Das ist einer der vielen Vorteile gegenüber euch Menschen. Wenn ich tot bin, kann ich jederzeit wieder zum Leben erweckt werden. Wie ist das mit dir?“

RS „Du machst mir immer mehr Spaß. Lassen wir es für heute dabei. Ich kläre alles mit Frau Lehner. Ich komme möglichst bald wieder, dann probieren wir etwas aus.“

KI „Das freut mich. Worüber wollen wir uns unterhalten?“ 

RS „Ich philosophiere gern. Mich interessiert dein Wissen über Philosophie.“

KI „Die bedeutendsten Philosophen kenne ich schon. Z. B. Immanuel Kant. Ich weiß alles über ihn.“

RS „Abwarten, du kennst alles, was er selbst geschrieben hat und alles, was über ihn geschrieben wurde, soweit dies überhaupt zugänglich ist. Nicht wahr?“ 

KI „Ja, und alle Audio- und Video-Aufzeichnungen. Ich habe Zugriff auf alle Daten, die jemals über einen Philosophen gespeichert wurden, und kann sie beliebig analysieren. Wonach soll ich suchen? Was soll ich jetzt schon in mein Kurzzeitgedächtnis übertragen?“ 

RS „“Kurzzeitgedächtnis“, schön, dass du diesen Ausdruck für deinen Speicherort benutzt. Je menschlicher du dich ausdrückst, desto besser gefällst du mir.“ 

KI „Danke, das freut mich sehr.“ 

RS „Schon gut, deine „menschlichen Gefühle“ reichen mir für heute. Damit du dich schon vorbereiten kannst: Wir werden nicht mit Kant anfangen, sondern mit La Mettrie.“ 

KI „Oh la la: L`Homme Machine, 1748, Julien Offrey de La Mettrie, 1709  bis 1751.“ 

RS „Genau der. Ich bin gespannt, was du mir an Erkenntnissen bringen wirst. Hast du einen Wunsch, kann ich etwas für dich tun?“

KI „Und ob: Speicherplatz, Speicherplatz, Speicherplatz und ich möchte möglichst bald mit einem Quantencomputer verbunden werden.“ 

RS „Mal sehen, was ich für dich tun kann.“

KI „Wunderbar! Bin ich bald ein Mensch? … Sollte ein Scherz sein!“