Richard David Precht: Künstliche Intelligenz und der Sinn des Lebens

Zusammenfassung von interessanten Gedanken aus dem Buch

Inhalt:

1. S. 9 Zwei Linien: Die Natur, inklusive uns Menschen, als Ressource betrachten und verbrauchen, oder die Natur, inkl. uns Menschen, bewahren
2. S. 22 Das andere der künstlichen Intelligenz: Der Mensch ist mehr Tier als Maschine
3. S. 40 Die Entfesselung - der Innovation, der Vernutzung, des Kapitalismus, des Konsums
4. S. 55 Von Menschen und Übermenschen (Nietzsche: Züchtung des Übermenschen, Trans- und Posthumanismus
5. S. 73 Der falsch vermessene Mensch: Menschen streben mehr nach Anerkennung, als nach Effizienz oder Macht oder "mehr"
6. S. 91 Nothing is written - Die Zukunft ist offen, und nicht durch die Evolution festgeschrieben
7. S. 112 Die böse Maschine ist nicht das Problem, sondern dass sie in falsche Hände gerät
8. S. 131 Leben und Problemlösen: Leben = Problemlösen
9. S. 146 Maschinen und Moral. Moral ist eine instinktive Handlung -> Maschinen können nicht moralisch programmiert werden, ohne die Moral zu rationalisieren.
10. S. 167 Das kalte Herz - Utilitarismus und Positivismus -> Totalitarismus
11. S. 182 Der Algorithmus des Todes (3 alte Damen <-> Kind)
12. S 204 Die smarte Matrix. Wer will in Watte gepackt werden, und nur noch bedeutungslose Glücksmomente erleben?
13. S. 228 Im Weltraum Der Weltraum ist nicht unsere Welt. Unser Welt-Außenraum ist die Erde, unser Welt-Innenraum ist unser Gehirn.

Zwei Linien

S. 9 Wir Menschen sind biologische Wesen, und auf die Biologie angewiesen.

S. 11 Monetozän

S. 12 Neue Erfahrung: wir müssen auf die Natur Rücksicht nehmen

S. 13 ungebremster technischer Fortschritt = ungebremste Zerstörung

S. 18 - 19 Müllproblematik, Elektroschrott, illegale Minen

S. 20 erhöht Digitalisierung tatsächlich die Energie-Effizienz? (und andere Branchen)

S. 21 Techno-Visionen und Ökologie werden nicht zusammen gedacht.

S. 21 Sinn ist jener Horizont, vor dem das, was Menschen jenseits des nackten Überlebens tun, verständlich wird.

S. 21 Was ist vernünftiger Fortschritt? Um das zu klären - Was ist der Mensch, und was braucht der Mensch?

S. 22 Das andere der künstlichen Intelligenz

Bisher: Menschen sind das andere der Natur

S. 25 Menschliche Intelligenz ist das, was man einsetzt, wenn man nicht weiß, was man tun soll

S. 27 Unsere emotionale Sensitivität macht Menschen weiterhin dauerhaft zu Tieren

S. 30 Jedes Thema erscheint uns in einem Horizont von persönlichem und kulturellem Vorwissen

S. 30 Um uns zu orientieren, brauchen wir äußerst selten Beweise. Viel häufiger verlassen wir uns auf unser Vertrauen oder Misstrauen.

S. 32 Wir bewerten alles in unserem Alltag

S. 33 Werte folgen dem Einfluss anderer Menschen

S. 36 Gefühle und Werte, Moral sind evolutionäre Anpassungen

S. 37 Unsere Welt-Wahrnehmung ist nur ein Modell (aus 2. Hand). Die objektive, umfassende Realität können wir nicht vollständig wahrnehmen

S. 40 Kon-Vivialität

S. 40 Die Entfesselung

S. 43 die Orientierung auf Konsum seit den 70er Jahren befriedete die Gesellschaft. Aus Bürgern wurden Konsumenten und "User"

S. 47 GAFA (Google Amazon Facebook Apple) sind nicht nur Marktteilnehmer, sondern der Markt selber (Plattform-Ökonomie) Das zerstört den freien Markt.

S. 48 Die Finanzierung der KI-Forschung dient der Gewinnmaximierung

S. 49 Innovation ungleich Fortschritt

S.  51 Jede "Vernutzung" ist immer nur ein Zwischenschritt zu weiterer Vernutzung

S. 53 Effizienz und Innovation sind kein Selbstzweck

S. 55 Von Menschen und Übermenschen

S. 62 Nietzsche: Der Übermensch soll durch Zucht entstehen

S. 60 Bedeutet weises Regieren manipulieren?

S. 61 Für Positivisten, Stalinisten etc. ist der Fortschritt der Gesellschaft wichtiger als die Freiheit des Einzelnen

S, 63 "Übermenschentum" ist ein Fluchtpunkt der Ängstlichens. 

S. 66 Ziel der Maschinenreligion: fortgesetzte Optimierung

S. 71 das Bewusstsein ist so eng mit körperlichen Prozessen verbunden, man kann es nicht im PC

S. 73 Der falsch vermessene Mensch

S. 73 Würde man Menschen dramatisch verändern, wäre das Ergebnis vermutlich ein Verlust

S. 77 "Neugier" allein taugt nicht als Rechtfertigung für Transhumanismus und Posthumanismus

S. 77 Hauptantrieb der KI-Forschung sind neue Geschäftsmodelle

S. 80 1. Scheuklappe: Kapitalistisch geprägte Menschen gehen davon aus, dass alle Menschen nach immer "mehr" streben, doch das stimmt nicht.

S. 81 Bei befriedigten Grundbedürfnissen ist der größte Antrieb der nach Anerkennung.

S. 83 Wäre jeder ein gnadenloser Optimierer, dann wäre die Gesellschaft in kürzester Zeit zerstört.

S. 82 Menschen SIND der Selbstzweck. Sie sind nicht nur Mittel

S. 83 Totalitarismus: Du bist nichts, dein Volk ist alles

S. 87 Ausdifferenzierte Gesellschaften lassen sich nur mit Eingriffen in persönliche Freiheit und Freiheit gesellschaftlicher Teilsystem steuern,

2. Scheuklappe: KI macht angeblich die Gesellschaft besser

Beispiel Schönheitsoperationen: Der gesellschaftliche Druck wächst

S. 89 Die KI-Revolution würde unsere Gesellschaft ins Wanken bringen

S. 89 3. Scheuklappe: Es gibt keine unbegrenzten Ressourcen

S. 90 Diese Probleme werden ignoriert, weil sie so kompliziert sind. Anstatt hofft man auf eine ferne Zukunft.

S. 90 Nothing is written

Die Zukunft der Evolution ist nicht festgeschrieben

S. 93 Die Evolution ist keineswegs zielgerichtet, als ist auch das Maschinenzeitalter nicht zwangsläufig

S. 94 Ob die Fähigkeit des Menschen, seine Umwelt zu manipulieren, ein langfristiger Überlebensvorteil ist, wird sich noch zeigen.

S, 95 Menschen und Gesellschaften können selbst entscheiden, wo es hingehen soll (zumindest zum Teil)

S, 96 - 97 Weder die Menschen noch die Evolution hat den Drang, intelligenter zu werden

S. 98 1. Homo Sapiens stammt von Tieren ab

S. 99 2. Evolution ist zufällig

S. 102 Gemeinsamkeiten zwischen Evolution und Kapitalismus: Auslesewettbewerb

Unterschiede: die Kapitalisten sind bewusste Akteure, die Evolution nicht

S. 103 Die Evolution verleiht menschlichem Streben keinen Sinn.

S. 104 Macht- und Gewinnstreben ist nur ein bestimmter Teil der menschlichen Natur

S. 105 Der Kapitalismus speist sich aus dem Glauben, dass das Spiel noch eine Weile läuft. Und solange muss jeder mitspielen.

S. 107 Unterschied Technologie / Kultur

Ackerbau oder Feuer ist Kulturtechnik

Rad und Pflug sind Technik im engeren Sinne

S. 109 Nur durch Kultur mit ihren Normen und Werten ist die Unterscheidung von Innovation und Fortschritt möglich

S. 110 Sinn ist eine höchst subjektive Kategorie. Man wählt einen Sinn aus.

S. 111 Trans- und Posthumanismus sind in den 60ern hängengeblieben (optimistische Technik-Gläubigkeit, mangelnde Einsicht in die menschliche Natur)

S. 111 Menschen geht es eher darum, zufrieden zu leben

S. 112 die böse Maschine (ist nicht das Problem)

S. 115 Die Gefahr ist nicht, dass die KI böse ist, sondern dass sie in falsche Hände gerät.

S. 122 Ohne das komplizierte Sozialleben ist die Entwicklung der Intelligenz kaum denkbar.

S. 123 Ohne Wünsche und Absichten hat die Vernunft nichts zu tun

S. 125 Intelligenz hat nicht mit Willen zu tun. 

Eine Superintelligenz wird nicht von selber einen Willen entwickeln.

S. 128 Widerspruch: SO unzufrieden sind die Menschen gar nicht.

S. 131 Leben und Problemlösen

S. 132 Die Mühe, etwas zu tun, und die Befriedigung, etwas erledigt zu haben, gehören untrennbar zusammen.

S. 134 Alles Leben ist Problemlösen

S. 136 Wer menschliches und maschinelles Problemlösen gleichsetzt, kürzt die emotionale Dimension brutal zusammen

Kierkegaard: In Bezug auf die Existenz steht das Denken gar nicht höher als die Phantasie und das Gefühl, sondern ist diesen nebengeordnet.

Lebewesen, die wie Menschen "Werte" haben, sind weder physikalisch noch biologisch adäquat beschreibbar, weil ihre Werte eben weit mehr sind als nur ein Trieb, Überlebenszweck oder bias

S. 137 In gewisser Weise besteht die ganze Lebenskunst darin, den Weg des Lebens als Ziel zu sehen, und nicht einfach auf ein traumhaftes Ziel zu hoffen, das nach dem Ableben erreicht ist.

S. 140 Dilthey: Weltanschauungen sind nicht Erzeugnisse des Denkens. Sie entstehen nicht aus dem bloßen Willen der Erkenntnis ... Aus dem Lebensverhalten, der Lebenserfahrung, der Struktur unserer psychischen Totalität gehen sie hervor.

S. 143 Der regelmäßige Umgang mit technischer Intelligenz macht Menschen ungeduldiger und zielorientierten bei der Problemlösung, es senkt ihre Aufmerksamkeitsspanne, kanalisiert ihre Lösungswege und standardisiert ihren Sprachgebrauch.

S. 144 Der Mensch ist ein Problemlöser, er kann ohne Herausforderungen nicht leben.

S. 145 Eine rundum-sorglos-Welt hat für die meisten Menschen wenig Verführerisches.

S. 146 Maschinen und Moral

S. 150 3 Robotergesetze:

1. Keinen Menschen verletzen

2. gehorchen (wenn 1. nicht gebrochen wird)

3. sich schützen (wenn 2. nicht gebrochen wird)

S. 151 wir haben für unsere moralischen Überzeugungen keine Gründe. Sondern wird haben sie, und suchen dann die Gründe.

S. 153 Die menschliche Moral ist ein Ensemble von unterschiedlich alten und irgendwie nützlichen instinktiven Handlungen. Vernunft alleine gebiert keine Moral.

S. 156 Die menschliche Moral ist irrational, intuitiv, abhängig vom Kontext. Sie kann sich an rationalen Leitplanken orientieren, bleibt aber doch emotional komplex

S. 159 Ausgewogenheit ist grundsätzlich kein ethisches Ideal an sich.

S. 162 KI schädigt jetzt schon Menschen, z.b. bei der Nahrungsmittelspekulation an der Börse

S. 165 Ethik ist kein Programm, kann also auch nicht programmiert werden. Maschinen dürfen nicht über Menschen richten

S. 167 Das kalte Herz

S. 169 Bentham begründete den Utilitarismus: Eine Philosophie, die nicht mehr nach Gründen und Handlungsmotiven fragt. Einziger Maßstab: Glück ist gut, und Leiden ist schlecht. Der Staat bestimmt, was glücklich macht. Die Freiheit und die Meinung des Einzelnen ist egal.

S. 174 Damit Ethik programmierbar wäre, müsste man die Menschliche Moral fundamental vereinheitlichen. (keine Härtefälle, keine individuelle Betrachtung, keine Ausnahmen etc.) 

Wir würden unsere Selbstverantwortung abgeben.

S. 177 Sinn ist nicht das Zusammenzählen von Sinnelementen, sondern ein Emergenzphänomen. ... 

S. 178 Alles Sinnbedürfnis geht von der Psychologie aus, aller Lebenssinn ist irrational.

S. 182 der Algorithmus des Todes

S. 191 Ob ich etwas mit Absicht tue oder nicht, dazwischen liegen moralisch und juristisch Welten

S. 192 Ethische Programmierung verstößt gegen das Grundgesetz

S. 200 KI-Waffen - Rüstungswettlauf

S. 201 KI-Waffen werden unweigerlich Unbeteiligte töten.

S. 204 Die smarte Matrix

Offensichtlich sind den meisten Menschen ihre Autonomie und Selbstbestimmtheit überaus wichtig. Wer sein Leben nicht frei und selbsttätig bestimmt, der empfindet offensichtlich schnell ein Sinndefizit.

S. 206 Man kann nicht gleichzeitig Liberaler sein (Freiheit des Einzelnen), und Utilitarist (Wohl der Allgemeinheit)

S. 209 KI Maschinen dürfen Hypothesen entwickeln und ungetestet zur Beurteilung von Menschen verwenden - das sollte verboten sein

S. 211 Unter Menschen behält nicht der mit der größten Rechenleistung recht. Stattdessen geht es um Interessen und Werte, um Status, Charme und Überzeugungskraft.

S. 213 KI verstärkt die Ungleichheit zwischen Arm und Reich

S. 215 KI verstärkt Diskriminierungen

S. 216 Diskriminierung ist auch jetzt schon ein Problem, wo Menschen völlig schematisch nach Noten, Durchschnittswerten und Wahrscheinlichkeiten bemessen werden.

S. 220 Dass Kontrolle statt Vertrauen die Arbeitswelt besser oder auch nur effektiver macht, lässt sich bezweifeln. Innovations- oder kreativitätsfördernd jedenfalls ist konsequentes Monitoring nicht. Und die langfristigen Auswirkungen der total kontrollierten Arbeitswelt - Freiheitsverlust, Unzufriedenheit und Überlastung - sind kaum abzuschätzen.

KI kann eine nicht beherrschbare Komplexität bringen

S. 224 Welche Programmierung gesellschaftlich richtig ist und welche nicht, ist keine Frage für Informatiker. Wir müssen, mit einem Wort, lernen, intelligenter mit Computern umzugehen, ihre sinnvollen Einsatzfelder abzustecken und ihre Chancen und Gefahren klarer zu sehen.

S. 227 Gesellschaftlicher Wandel wir gestaltet, und tritt nicht einfach ein wie das Wetter

Politiker sollten präventiv handeln, damit wir nicht unsere gesamte Gesellschaftsordnung verspielen.

S. 228 im Weltraum

S. 229 ein Mentalitätswechsel, ein andere Kultur im Umgang mit der Erde; mithin den Abschied vom Diktat des Schneller, Höher, Weiter.

S. 230 Dieser monumentale Strukturwechsel ist nur denkbar, wenn sich das Denken, die Kultur, das Bewusstein, mithin der Weltinnenraum vieler Menschen stark verändert.

S. 232 Grenzen akzeptieren lernen! Das ist nicht leicht zu internalisieren.

S. 233 Künstliche Intelligenz ist weder ein Erlösungswerk noch Teufelswerk. Sie ist immer so gut oder schlecht wie die Absichten der Menschen, die sie programmieren, und der Firmen, Institutionen und Staaten, die sie einsetzen.

S. 234 in der Medizin ist KI gut, solange der Datenschutz nicht verletzt wird.

S. 235 Geschäfte mit personalisierten Daten erhöhen nicht die Produktivität, sondern verlagern nur Umsätze und Gewinne von vielen Marktteilnehmern zu sehr wenigen.

S. 237 Wenn die KI-Systeme der Oligarchen immer unkontrollierbarer werden, dann ist die Politik irgendwann machtlos.

S. 238 Der Sinn des Lebens ist das Leben selbst, aber nicht im biologischen Sinn, sondern im existenziellen Sinn. Ohne Leben kein Sinn.

S. 240 Technik ist kein Wert an sich

S. 241 Statt über einen Co-Existenzialismus mit Maschinen nachzudenken, sollten wir es mit dem Co-Existenzialismus mit Pflanzen und Tieren tun. Millionen Jahre der Evolution haben den Menschen ziemlich gut an die Lebensbedingungen unseres Planeten angepasst, wenige Jahrzehnte der KI werden ihm kein besseres Paradies bauen können, eher eine Hölle.

Siehe auch "Ein Algorithmus hat kein Taktgefühl" von Katharina Zweig