Tweets

Bericht von der Konferenz des Foresight Institute

(Spring 2000 Senior Associate Gathering, 19. - 21. Mai 2000, Palo Alto)

von Sabine Stöckel

Das Foresight Institute hat es sich seit 1989 zur Aufgabe gemacht, den Fortschritt auf dem Gebiet der Nanotechnologie zu beobachten und die Öffentlichkeit darüber zu informieren.
Als der Gründer des Foresight Institute, Eric Drexler, im Jahr 1986 über Nanotechnology ein Buch veröffentlichte, wurde er belächelt und ignoriert. Das Buch heißt "Engines of Creation", es beschreibt, was Nanotechnologie ist, und es zeigt fiktive Szenarios, in denen mit Hilfe der Nanotechnologie Fortschritte in der Medizin, aber auch in der Entwicklung von Waffen erzielt werden.
Heute, im Jahr 2000, ist Nanotechnologie keine Science Fiction mehr. Neue Firmen wie Zyvex oder Technanogy zeigen uns, was machbar ist. Und die US-Regierung wird Forschung und Entwicklung auf dem Gebiet der Nanotechnologie finanziell stark unterstützen.
Doch nun gibt es Leute, die vor einem allzu schnellen Fortschritt in der Nanotechnologie warnen. Bill Joy, einer der Gründer von Sun Microsystems und Autor des Wired-Artikels "Warum die Zukunft uns nicht braucht", ist nur einer von ihnen. Gepaart mit immer schneller werdenden Computerchips und rasanten Fortschritten in der Robotik und der Biotechnologie, soll die Nanotechnologie einen Zustand erreichen, in dem sie nicht mehr kontrolliert werden kann. Und was danach passiert, soll für den menschlichen Geist nicht mehr vorstellbar sein: Die Singularität.
Die meisten Mitglieder des Foresight Institute sind sich einig, dass die Singularität eines Tages geschehen wird. Daher fand die diejährige Konferenz in Palo Alto unter dem Motto "Confronting Singularity" statt. Ziel der Konferenz war es, zu zeigen, welche Wege in die Singularität führen - und was die Menschheit auf diesen Wegen beachten muss.
Besonders interessant an der Konferenz war, dass sie nicht in einem einzigen Raum mit nur jeweils einem Redner zu einem Thema stattfand. Die Konferenz war in mehrere simultan stattfindende Sitzungen mit jeweils einem Moderator aufgeteilt. So hatte man die Möglichkeit herumzuwandern und verschiedene Meinungen zu hören oder seine Meinung abzugeben. Das hatte natürlich auch Nachteile: Der Geräuschpegel war oft zu hoch und man wusste manchmal nicht, welche Sitzung wann standfand. Die für mich wichtigsten Sitzungen waren:

Die Singularität (Moderator: Damien Broderick)
Der KI-Plan für die Singularität (Moderator: Eliezer S. Yudkowsky)
Realisierbare Ideen (Moderator: Ken Lang)

1. Die Singularität

In dieser Sitzung wurde vor allem sehr energisch darüber diskutiert, ob die Singularität überhaupt stattfinden wird. Der australische Buchautor Damien Broderick (The Spike, The Last Mortal Generation) sprach zuerst mehr darüber, wie die Welt aussehen könnte, wenn die Singularität stattfindet und nachdem sie stattgefunden hat. Damien stellte eine Zusammenfassung der wichtigsten Fragen auf:

• Was ist die Singularität? Müssen wir uns darum kümmern?
  

Hier geht es um sogenannte Transcension Modelle, die entwickelt werden sollen, um abzuschätzen, welche Veränderungen in Wissenschaft und Technik am wahrscheinlichsten eintreten werden.

• Was stellt eine positive Wendung jenseits der Singularität dar?
  

Ein sehr bekannter Satz des SF-Autoren und Wissenschaftlers Arthur C. Clarke wurde hier erwähnt: Jede ausreichend fortgeschrittene Technologie ist von Magie nicht mehr zu unterscheiden.

• Unter welchen Umständen wird die Veränderung beschleunigt und unter welchen Umständen hält sie an?

Hier meinten manche Sitzungsteilnehmer, dass sie die Singularität für einen Mythos halten. Sie glauben, dass es einen Preisverfall geben wird, der die Nachfrage drastisch erhöhen und schließlich eine Art Übersättigung auslösen wird. Die Produktion von High-Tech soll für viele Leute dann nicht mehr attraktiv sein. Bis zum Ende der Sitzung wurde über diesen Punkt diskutiert.

• Wie können wir uns und unser gegenwärtiges Wirtschaftssystem so modifizieren, dass wir einer sich grundlegend verändernden Umwelt standhalten können?
• Wie vermeiden wir Gray Goo und Nano-Katastrophen?
• Wie vermeiden wir eine gewalttätige soziale Instabilität, während die Singularität stattfindet?

Wichtigstes Ziel ist die Abschaffung der Trennung zwischen denjenigen, die mit Computern umgehen können und denjenigen, die noch nie mit Computern gearbeitet haben. Hier wurde angemerkt, dass in San Francisco die sogenannten Dot-Com-People aus dem nahen Silicon Valley einen sehr schlechten Ruf haben.

2. Der KI Plan für die Singularität

Eliezer S. Yudkowsky vertritt im Gegensatz zum Foresight Institute die Meinung, dass eine künstliche Intelligenz und nicht der Mensch den Fortschritt auf dem Gebiet der Nanotechnologie kontrollieren sollte. Er widerspricht entschieden der landläufigen Meinung, dass eine künstliche Intelligenz "durch einen Unfall" entstehen kann. Eine künstliche Intelligenz kann nur durch sehr erfahrene Progammierer geschaffen werden. Eliezers Ziel ist es eine KI zu entwickeln, ein Programm, dass klug genug ist, seinen eigenen Quellcode zu verstehen.
Folgende Fragen wurden in der Sitzung gestellt:

• Wie lange dauert es, bis eine KI geschaffen ist?
• Was sind die Risiken einer KI?
• Welchen Effekt hat eine KI auf die Marktwirtschaft?
  

Was die erste Frage betrifft, hier meinte Eliezer, dass es ungefähr zehn Jahre dauern wird, bis er sein erstes KI-Projekt abgeschlossen hat.
Die Risiken sind aufgeteilt in die Risiken, die während der Programmierung der KI und in die Risiken, die nach Abschluss der Programmierung auftreten werden.
Eine Gefahr während der Programmierung stellt das altbekannte Theorie-Praxis-Gefälle dar, was ist programmierbar und was nicht? Nach der erfolgreichen Programmierung einer KI, kann es vorkommen, dass sie für Menschen nicht nachvollziehbare Entscheidungen trifft. Trotz dieser Gefahr, bevorzugt Eliezer das sogenannte SYSOP-Szenario: Eine KI, ein System Operator ist genug, und er sollte so mächtig sein, dass er das gesamte Sonnensystem, vielleicht das gesamte Universum, kontrollieren kann. Der SYSOP wäre unsichtbar und würde z.B. nur eingreifen, wenn der Versuch unternommen wird, Nanotechnologie für kriminelle Aktivitäten zu benützen. Auf die Frage, was wäre, wenn die KI sich einsam fühlt und weitere KIs erzeugt, antwortete Eliezer, dass man eine KI auf keinen Fall mit einer menschlichen Intelligenz vergleichen sollte. Der Mensch konnte nicht alleine sein, weil er mit Artgenossen interagieren und Wettbewerbe austragen musste, um sich zu verbessern. Ein SYSOP wird so perfekt wie möglich sein, und er wird sich ständig nach Fehlern durchsuchen. Seine Macht wird ihn nicht verderben, da er sie nicht durch korruptes Verhalten erlangt hat. Eliezer gab an dieser Stelle zu, dass er seine Meinung, was einige fundamentale ethische Grundsätze des Programmierers einer KI betrifft, geändert hat. Früher hielt er eine KI mit ethischen Grundsätzen nicht für wichtig. Heute ist aber einer der Hauptgründe, warum Eliezer eine KI programmieren will, dass sie Tod, Schmerz und Dummheit abschaffen soll. Dazu wäre eine KI mit einer sogenannten "wackomobile morality" nötig: Die KI sollte ihre eigenen ethischen Grundsätze anhand von den Vorschlägen des Programmierers entwickeln.
Eliezer ist sich dessen bewusst, dass sein KI-Modell nur eines unter vielen darstellt. Er gab zu, dass eine KI, die sorglos programmiert wird, unter Umständen einen großen Schaden anrichten kann ("Ein Programm, dass zur falschen Zeit läuft, kann den Aktienmarkt zum Einsturz bringen"). Sein KI-Modell ist so geplant, dass es die Marktwirtschaft nicht negativ beeinflussen wird ("Es darf kein Monopol entstehen"), und dass es die Singularität beschleunigt. Eliezer sieht in der Singularität keine Gefahr, vielmehr eine Chance zur Verbesserung der Lebensbedingungen.

Abb.1: Brian Atkins (li.) und Eliezer Yudkowsky (66KB) Abb. 2: Greg Burch (42KB) Abb. 3: Robert Bradbury (li.) und andere (56KB)

3. Realisierbare Ideen

Die Sitzung wurde von Ken Lang, dem Hauptgeschäftsführer von 100x.com: X-celerating startups to internet time, moderiert.
Zuerst ging es um allgemeine Probleme bei der Realisierung von Nanotech-Projekten:

a) Die Interaktion zwischen Mensch und Maschine
b) Wo sind die richtigen Leute/Organisationen, mit denen kooperiert werden kann?
c) Management
d) Beständigkeit: Verbreitung von Wissen über Nanotechnologie
e) Die Menschen müssen mit fortgeschrittener Technik umgehen lernen
f) Wie können zukünftige Entwicklungen besser vorhergesagt werden?
g) Ständige, auf jede einzelne Person zugeschnittene Fortbildung
h) Gesundheitsvorsorge, Langlebigkeit, Unsterblichkeit

Als Lösungen wurde vorgeschlagen:

a) Erstellen von Reputationen (Daten, die im Internet Auskunft über eine Person/Organisation geben.
Hier geht es um den berühmten Guten Ruf, der im Internet bald wichtiger als die Identität werden wird.)
b) Private Währungen
c) "Smart Contracts": Verträge, die die Sicherheit von geschäftlichen Transaktionen im Internet gewährleisten
d) Menschen werden für ihre Aufmerksamkeit bezahlt
e) Gezielte Suche nach Mitarbeitern
f) Künstliche Intelligenz
g) Unterstützung von der ganzen Gruppe beim Treffen von Entscheidungen

Was sind die Meilensteine zur Singularität?

a) Programmierung einer KI
b) interdisziplinäre Zusammenarbeit
c) Kommunikation
d) Computation
e) Biotechnologie/Genetic Engineering
f) Marktwirtschaft
g) Vernetzte Geräte (Kühlschränke, Toaster)
h) Bildung/Fortbildung

FAZIT

Auch wenn es nicht viel Neues zu hören gab und am Ende mehr Fragen als Antworten übrigblieben, war die Konferenz ein wichtiges Ereignis. Viele Leute, die sich nur durch das Austauschen von E-Mails kannten, trafen sich hier zum ersten Mal "in the flesh". Unter den Anwesenden waren auch viele Gründer und Mitarbeiter von neuen Firmen. Somit war die Konferenz vor allem ein Schmoozathon mit viel gutem Essen.
Für die Mitglieder des Extropy Institute war es allerdings etwas enttäuschend, dass viele Teilnehmer an der Konferenz eine eher konservative Einstellung zu Themen wie Uploading, künstliche Intelligenz und Unsterblichkeit hatten. Auch die Gründer des Foresight Institute kann man nicht als Transhumanisten bezeichnen: Sie wollen unsterblich sein, sie wollen die Singularität nicht aufhalten. Aber sie wollen auch eine Art Star-Trek-Zukunft, in der Menschen die Kontrollinstanz bleiben und Roboter und künstliche Intelligenzen lediglich Diener sind. Somit war für mich persönlich Eliezer S. Yudkowskys Sitzung am wichtigsten, denn er glaubt nicht, dass es die Menschheit, nachdem die Singularität ohne Kontrolle durch eine künstliche Intelligenz stattgefunden hat, dann noch geben wird. Menschen haben in den vergangenen Jahrhunderten schließlich mehr als einmal bewiesen, dass sie Fortschritte in der Wissenschaft und Technik sehr oft für ihre kriegerischen Auseinandersetzungen ausgenützt haben. Nach Eliezers Meinung sollte alle menschliche Weisheit, die bis heute erlangt wurde, in eine künstliche Intelligenz eingebettet und hier weiterentwickelt werden. Die KI wird dann in der Lage sein, die Singularität auf vernünftige Art und Weise ablaufen zu lassen.

2000-06-01