„Ein Bereich, in dem Menschen wahrscheinlich noch für längere Zeit einen relativen (oder sogar absoluten) Vorteil behalten werden, ist die physische Welt.“ So heißt es im vorletzten Abschnitt des Essays „Machines of Loving Grace“ zu „5. Work and meaning“. Vorausgegangen ist dieser Aussage eine Prognose, wie sich die Entwicklung der Künstlichen Intelligenz (KI) in den nächsten Jahren auf fünf Felder auswirken wird: Biologie, Neurowissenschaften, Wirtschaft, Frieden und Governance, Arbeit und Sinn. Die Vorhersagen sind in einem lockeren Ton geschrieben, setzen kein technisches Wissen voraus und versprechen den Sieg über Krebs, einen KI-Coach als Therapeut für jeden, die Einschränkung des Klimawandels, den Erhalt der liberalen Demokratien und nicht zuletzt, dass der Sinn des Lebens auch jenseits von künftig automatisierter Arbeit gefunden werden kann.
Diese Verbesserungen des menschlichen Lebens durch KI werden damit eingeleitet, dass es Anthropic als Unternehmen eigentlich darum gehe, die Risiken und nicht die Vorteile der KI zu betonen. Doch nun sei es an der Zeit, eine „inspirierende Vision für die Zukunft“ zu beschreiben, statt nur einen „Plan zum Feuerlöschen“ zu entwickeln. Sehen wir uns diesen Plan im Detail an.
In Zentrum dieser Vision steht die KI. Amodei vermeidet den Begriff der Artificial General Intelligence (AGI) und spricht stattdessen von einer „powerfulAI“. Und diese KI hat es in sich. Sie sei so klug wie ein Modellpreisgewinner – und zwar in jeder Kategorie. Doch vor allem kann sie dank passender Schnittstellen selbst kommunizieren und handeln, Menschen anleiten oder Experimente durchführen. Sie ist autonom, braucht keine physische Verkörperung und hat doch die Kontrolle über physische Werkzeuge, wie z. B. Roboter oder Laborausrüstung. Die KI wird als Akteur beschrieben, als jemand mit eigener Handlungsmacht, der unabhängig und mithilfe von Werkzeugen in die Welt eingreifen kann. Dabei ist der Akteur jedoch über viele Werkzeuge verteilt und nicht direkt in einem Roboter verkörpert. Zudem gibt es keine einzelne Instanz, die diese Prozesse steuert. Stattdessen gibt es eine Vielzahl von Instanzen, die entweder unabhängig voneinander arbeiten oder miteinander kollaborieren können, mit jeweils eigenen Spezialisierungen. Amodei nennt das ein „country of geniuses in a datacenter“ und beschreibt zum einem, dass zumindest KIs durch die Verschaltung in Datenzentren miteinander interagieren können. Zum anderen entsteht dadurch auch ein komplexes, undurchschaubares Geflecht an dessen Ende der User steht und nicht nachvollziehen kann, wie die Antwort im Detail generiert wurde.
Dieses Bild der autonomen KI wird noch weiter verstärkt. So heißt es im Abschnitt über KI in der Biologie, dass die KI nicht nur für die Datenanalyse von Nutzen sein wird, sondern sogar die Funktion eines Laboranten einnehmen könne. Das gelinge, indem entweder direkt im Labor Roboter gesteuert würden, oder eben Menschen die Experimente für die KI ausführten. Was deutlich wird, ist, dass in dieser Zukunftsvision der Bereich für den Menschen übrig bleibt, der nicht von der KI abgedeckt werden kann. Ob Mensch oder KI zum Einsatz kommt, hängt dann davon ab, wessen (intelligenter) Beitrag kostenintensiver ist. Oder wie es Amodei nennt: „Marginal returns of intelligence“. Dieses Zurückziehen des Menschen führt zu dem Eingangszitat, wonach der Mensch noch einen Vorteil in der physischen Welt habe. Doch die Vorzeichen sind klar: Es ist die KI, die den Menschen zum Handeln anleiten wird. Direkt formuliert wird das im Laborbeispiel, wonach der Mensch die Experimente für die KI ausführt. Indirekt klingt es an, wenn Amodei im Abschnitt zu Frieden und Governance davon spricht, dass die KI ein objektiver Richter sein oder die Menschen in autoritären Staaten mit dem richtigen Wissen versorgen könnte, damit diese gegen die sie unterdrückenden Regime aufbegehren würden.
Zuletzt wird prognostiziert, dass die KI dem Menschen dabei helfen könne, sich selbst zu verstehen. Im Abschnitt zur Neurowissenschaft heißt es, dass durch die Interpretation der Funktionsweise von Sprachmodellen auch das menschliche Gehirn besser verstanden werden könne. Dafür braucht es erst einmal die Interpretation der KI. Doch das wiederum könne am besten durch die KI selbst gelingen.
Abschließend ist das gezeichnete Bild klar: Um die Qualität des menschlichen Lebens zu verbessern, braucht es möglichst viel KI und überraschend wenig Mensch. Während die KI in zahlreiche Interaktionen mit sich selbst, sei es digital oder analog, tritt, nimmt die Mensch-KI-Beziehung eine untergeordnete Rolle ein, wird schlichtweg nicht beschrieben. Weder tritt der Mensch als Geber von Anweisungen in Erscheinung, noch als Betreuer von Prozessen. Die einzige beschriebene Interaktion zwischen Menschen und KI ist eine KI-Mensch-Interaktion, in der der Mensch die Anweisungen der KI ausführt.
