Wenn er nicht damit beschäftigt ist, den Ansturm der Menschheit auf die Singularität durch die Schaffung einer synthetischen gemeinsamen Intelligenz (AGI) zu beschleunigen, tritt Ben Goertzel in einer Jazz-Rock-Band namens Jam Galaxy auf, die von einem Roboter namens Desdemona angeführt wird.
Es ist eine seiner vielen Facetteninitiativen, die ihn natürlich dazu veranlasste, zu versuchen, das Musikunternehmen zu symbolisieren, indem er sich an Mitglieder von Pearl Jam und Coronary Heart wandte. Goertzel kann auch an der Langlebigkeitsanalyse beteiligt sein, indem er menschliches Gesundheitswissen mit Token-Belohnungen über eine App namens Rejuve.ai sammelt. Diese Daten werden dann mit Tier- und Insektenforschungswissen zusammengeführt und mit einer KI analysiert, um herauszufinden, welche Bestandteile des Genoms uns dazu bringen könnten, länger zu bleiben, und dann durch Gentherapien angeregt werden. „Wir hatten einige ziemlich beeindruckende, bahnbrechende Entdeckungen“, sagt er. Oh, und kurz bevor unser einstündiges Interview endet, erwähnt er nebenbei, dass er auch einen Stablecoin für seinen dezentralen KI-Markt Singularity.web herstellt, der an einen künstlichen Index des ökologischen Fortschritts gekoppelt ist – als Ergebnis es an US-Dollar zu koppeln, kann „lahm“ sein.
„Fortschritte in der Atmosphäre könnten sehr sicher sein. Es geht nirgendwo hin“, betont er.
„Und um dies zu kontrollieren, ist es wichtig, der Erderwärmung wirklich entgegenzuwirken.“
Es ist genau die Art von politischer Bemerkung, die auf High-Tech-Know-how trifft, die Sie von Goertzel erwarten können, der wie ein Hippie-Wissenschaftler aussieht und erscheint, der 1971 direkt in eine Zeitmaschine gestolpert ist und 2023 vollkommen geformt wieder herausgekommen ist. Lassen Sie sich jedoch nicht täuschen durch den Animal-Print-Hut, das lange Haar und den elektrischen Kool-Assist-Säure-Reisezug: Er ist ein exzellenter Wissenschaftler mit einem Verständnis für die langfristigen milden Jahre der meisten und der sich mit einigen der größten Ideen auseinandersetzt, an die die Menschheit je gedacht hat. Was ist Bewusstsein? Wie können wir synthetisches Leben erschaffen, und was passiert, wenn es uns nicht mag, abtrünnig wird und alle Menschen wie in Terminator 2 niedermacht?
Ben Goertzel (links) und Jam Galaxy mit Desdemona the Robotic (zweiter von links).
Was ist synthetische gemeinsame Intelligenz?
Goertzel hat die Zeit „synthetische gemeinsame Intelligenz“ als Lösung populär gemacht, um eine echte Denkmaschine, die nur etwas lernen würde, von KIs zu unterscheiden, die für einen bestimmten Prozess optimiert sind, genau wie der Deep Blue-PC, der den berühmten Schachweltmeister Garry besiegte Kasparow. Er räumt freimütig ein, dass es Gefahren gibt, eine Maschine zu bauen, die in der Lage ist, etwas und alle Dinge zu studieren, zusammen mit der richtigen Art und Weise, sich selbst neu zu programmieren, um sich in eine Größenordnung zu verwandeln, die intelligenter ist als jeder Mensch.
„Bei AGI gibt es viele Gefahren und Risiken“, sagt Goertzel über den Lärm in einem indischen Restaurant in einem geschäftigen Einkaufsviertel in Singapur hinweg. „Als einer von ihnen, der eine Vielzahl von Medienaufmerksamkeiten erregt hat, gilt, dass AGI Amok laufen und die Menschheit vernichten und das Universum übernehmen wird. Es ist absolut machbar; Sie werden es nicht ausschließen können“, sagt er.
„Eine weitere mögliche Bedrohung besteht darin, dass böse egozentrische Leute die KI verwenden, um ihre eigene Gier und Kontrolle über andere auszuüben.“
Seiner Ansicht nach werden die Regierungen bei AGI wahrscheinlich keinen Durchbruch erzielen, da sie „zu konservativ und albern“ seien, obwohl er feststellt, dass China seine AGI-Arbeit an Firmen wie Tencent und Baidu vergibt. Näher am Haus glaubt er, dass sich die KI-Abteilungen von Google und Facebook nicht von der Straße erholen werden, da sie sich zu sehr darauf konzentrieren werden, dass die KI sichere Metriken trifft, was dem künstlerischen Denken nicht förderlich ist.
„Ähnlich wie wahrscheinlich die meisten guten Leute nicht nur die Metriken einer anderen Person bedienen möchten, glaube ich, dass synthetische allgemeine Intelligenz nicht unbedingt die Klickrate auf jemandes Internet-Seite maximieren möchte, beides, richtig? Es wird gekauft, um kreativ rumbasteln zu dürfen.“
Gehen Sie richtig mit Ihrem AGI um, oder es endet in Tränen. Versorgung: Terminator 2
Die Singularität um 1970
Goertzel begann sein Studium mit 15, machte seinen Abschluss mit 18, hatte mit 22 einen Doktortitel und mit 23 einen jüngeren Haushalt. Heutzutage vielleicht ungewöhnlich, war er jedoch nicht nur ein Mathegenie oder ein technisches Genie, das in den 70er Jahren Geräte zusammenlötete Philosophie, künstlerisches Schreiben und Musik gleichermaßen berücksichtigen.
Er verbrachte einen Großteil seines Berufs damit, PC-Wissenschaft, Arithmetik und Kognitionswissenschaft an verschiedenen Universitäten auf der ganzen Welt zu unterrichten und zu erforschen, während er sich jederzeit mit KI-Technologie beschäftigte. Als Seriengründer, der mit seinen Konzepten allen anderen ein paar Jahrzehnte voraus ist – was im Geschäftsleben bekanntermaßen unangemessen ist – hat er daran gearbeitet, KI einzusetzen, um Geldmärkte und Langlebigkeit vorherzusagen, und er hatte auch eine Zeit lang weil der Chefwissenschaftler von Hanson Robotics, dem Ort, an dem er Sophia the Robotic ihren synthetischen Verstand verlieh.
Goertzel war seit den siebziger Jahren begeistert von exponentiellem technologischem Fortschritt, als er zum ersten Mal Gerald Feinbergs The Prometheus Undertaking hörte, in dem es um „Maschinen geht, die höher denken als die Menschen … Nanotechnologie-Maschinen, die mikroskopisch klein sein können, und wir werden das Altern aufdecken. ” Dies passte gut zu der aufsteigenden Idee der Singularität, einer hypothetischen zukünftigen Ebene, wenn technologische Fortschritte unkontrollierbar und irreversibel werden, was zu enormen Anpassungen der menschlichen Zivilisation führt.
Eine zerfledderte Ausgabe von The Prometheus Undertaking. Angebot: Webarchiv
„Also, die Leute werden unaufhörlich bleiben, dann wird wahrscheinlich die Frage lauten: Wofür können wir diese angewandten Wissenschaften verwenden, schnellen sinnlosen Konsum, oder können wir sie verwenden, um das Bewusstsein zu erweitern? Und was er [Feinberg] vorgeschlagen hat, ist, das einer demokratischen Abstimmung zu unterziehen.“
Jahre später, als er zu erkennen begann, dass AGI in unserer Reichweite war, wurde dieses „demokratische Votum“ zur Inspiration, zuerst Open-Source-Expertise und dann Blockchain als Lösung zu nutzen, um eine kooperative Gruppe für die Expertise verantwortlich zu machen.
„Was ich auf einer bestimmten Ebene festgestellt habe, ist, dass es bei KI nicht ausreicht, den Code offen zu haben“, sagt er. „Sie müssen die KI tatsächlich mit einer Menge Informationen coachen.“
„Das ist der Ort, an dem Blockchain als Lösung kommt, um die Verarbeitung und die Informationen, die der KI zugrunde liegen, dezentralisiert und von Natur aus durch Crowdsourcing und offen in der Verwaltung zu gestalten. Und das scheint kniffliger zu sein, als einfach den Code zu öffnen.“
Goertzel gründete OpenCog im Jahr 2008, um ein Open-Source-Framework für synthetische Intelligenz zu erstellen. Es wurde von 50 Unternehmen zusammen mit Huawei und Cisco verwendet und ist bereit für eine baldige Verbesserung namens Hyperon, die darauf abzielt, es um 200 Mal zu beschleunigen. Das Alpha-Modell ist in diesem Quartal fällig, das Beta-Modell wird in den nächsten 12 Monaten erwartet.
Blockchain ist grundlegend, aber cool
Für Goertzel ist Blockchain-Expertise ein bisschen grundlegend. Er beschreibt es als einige primitive verteilte Algorithmen, die der Kryptografie hinzugefügt wurden, aber die „coole Mischung“ ermöglicht es Techniken, ohne zentralisierte Verwaltung zu laufen, was es für seine Zwecke gut macht.
„Wenn Sie eine Denkmaschine bauen und sie zu verteiltem Computergewebe im Nanomaßstab machen, könnte es sehr gut sein, wenn dies allen gehört und niemand mehr als nur den Primedown verwaltet.“
Blockchains sind viel zu träge, um mit den Verarbeitungsanforderungen und großen Informationsmengen fertig zu werden, so dass es einen Wettlauf um die richtige Skalierung der Blockchain gibt, bevor ein bahnbrechender AGI entwickelt wird. Goertzel sagt, dass Skalierungsoptionen wie Zero-Knowledge-Rollups zwar höher sind, aber aufgrund der Einschränkungen der Blockchain, an die sie Transaktionen melden, dennoch nicht über ausreichende Bandbreite verfügen.
Er war 2017 Mitbegründer von Singularity.web, das jeweils ein dezentraler Markt für KI-Unternehmen und -Expertise sowie eine Blockchain-basierte Koordinierungstechnik für Forscher – und sogar KIs – ist, um gemeinsam zu arbeiten.
Gegenwärtig glaubt er, hauptsächlich basierend auf Ethereum, Probleme so weit vorangetrieben zu haben, wie sie auf Blockchain in ihrer jetzigen Form gehen werden. Wenn er also nicht an einem Durchbruch bei AGI (oder der Band, oder Robotern oder Langlebigkeit) beteiligt ist, beschäftigt er sich mit der massiven Skalierung der Blockchain, um ihr den erforderlichen Durchsatz zu bieten.
„Abgesehen davon, dass Sie die Skalierbarkeit der Blockchain radikal verbessern können, werden Sie nicht in der Lage sein, das Innenleben der KI in die Kette zu integrieren.“
Mein Vater @tedgoertzel hat diesen Ausschnitt aus dem Jahr 1961 (5 Jahre vor mir) ausgegraben, als er Co-Vorsitzender von SLAM war, der Scholar League In Opposition zu Mortality, einer Schülerorganisation mit dem Ziel, den Tod abzuschaffen. Hatte sogar einige proto-kurzweilsche quantitative Trendprognosen drin! Frühe Wurzeln von @Rejuve_AI pic.twitter.com/ZD7ycEGRum
— Ben Goertzel (@bengoertzel) 24. Dezember 2022
KI ist näher als Sie vermuten
2022 war ein bahnbrechendes Jahr für Arbeitsprodukte, die hauptsächlich auf KI-Expertise basieren, zusammen mit Sprachfunktionen (GPT-12, ChatGPT), Codierung (GitHub Copilot) und Bildtechnologie (DALL-E und Secure Diffusion). Bing plant sogar, die Suchdominanz von Google in diesen 3 Monaten anzugehen, indem es die ChatGPT-Technologie in seine Suchmaschine integriert.
Goertzel glaubt, dass ein AGI nur noch 5 Jahre entfernt sein könnte, und stellt fest, dass Entwicklungen innerhalb des Fachs in kurzen drei- oder vierjährigen Ausbrüchen in einer Sammlung von Durchbrüchen zu verlaufen scheinen.
„Laptop Einfallsreich und vorausschauend begann 2014, danach war der Thriller schnell, peng, peng, peng, gelöst. Reine Sprachverarbeitung… nachdem Google mit dem Bert-Mannequin (2018) hierher gekommen war, hatten Sie GPT-3. Sie werden wahrscheinlich den gleichen Fortschrittsbogen in AGI sehen. Sie werden einen Durchbruch haben, dann einen beträchtlichen Fortschritt für 2 Jahre“, sagte er.
„Die Unterscheidung, die in diesem Fall der bahnbrechende Fortschritt ist, endet in einer Maschine, die dann selbst Fortschritte machen kann, indem sie ihren persönlichen Code umschreibt.“
Goertzel hofft, dass die Initiativen und Kooperationen, die er in Gang gesetzt hat, so sein werden, wie es passiert.
„Wenn wir Glück haben, werden wir diesen Durchbruch in den folgenden drei bis fünf Jahren erzielen, wenn OpenCog Hyperon an Singularity.web arbeitet und an Hypercycle arbeitet“, sagt er. "Aber wenn wir nicht beweisen, dass wir die Schlüsselsauce haben, wird es jemand anderes tun."
Journal hat Ben Goertzel in Singapur getroffen. Lieferung: Andrew Fenton
Schade, dass Vitalik kein PC-Wissenschaftler war
Goertzels Antwort auf die Skalierung der Blockchain ist ziemlich radikal und beinhaltet das Turboladen einer Sidechain oder Layer 2 von Cardano, bekannt als „HyperCyle“.
„Es ist wirklich besser als eine Sidechain. HyperCycle wird ebenso effektiv mit Ethereum und anderen Blockchains zusammenarbeiten, aber wir werden dort den Plutus-Interpreter verwenden, aber wir eliminieren das Ledger.“
Er hat HyperCycle online als Lösung des „Blockchain-Trilemmas“ von „Dezentralisierung vs. Sicherheit vs. Effizienz“ beschrieben, indem er das Hauptbuch eliminiert und modernere/völlig dezentralisierte Algorithmen und Wissensgebäude sowie ein bisschen KI- und Reputationstechniken verwendet.
Das Ledger ist das Herzstück der Blockchain-Technologie, aber er sagt, es sei lächerlich ineffizient, jeden Knoten innerhalb der Community dazu zu bringen, jede Transaktion und jeden Ablauf jedes vernünftigen Vertrags zu kopieren.
„Das Hauptbuch ist einfach ungesund. Wenn Sie darüber nachdenken, wenn Sie die Analogie Ihrer Kontakte in Ihrem Telefonbuch betrachten, nehme ich an, dass das Hauptbuch wie […] 10,000 Kopien von Gelben Seiten schützt, und Sie aktualisieren sie jedes Mal, wenn jemand neu hinzukommt oder wenn sich jemand ändert ihre Handymenge. Eigentlich ist es dumm, 10,000 Exemplare der Gelben Seiten zu ersetzen.“
Lernen Sie zusätzlich
Optionen
Daft Punk trifft auf CryptoPunks, da Novo mit NFTs konfrontiert ist
Optionen
Vergangenes In-Sport-Eigentum: Blockchain-Gaming, DAOs, Gilden und Ragequitting
Innerhalb des HyperCycle-Modells der Analogie, anstatt dass jeder das Telefonbuch speichert und aktualisiert, erhalten die Leute in Ihrem Kontakt-E-Book-Händler ein Duplikat Ihres aktuellen E-Books und umgekehrt, verschlüsselt mit Ihrem persönlichen Schlüssel.
„Wir haben den richtigen Weg gefunden, Blockchain zum Laufen zu bringen und kein replizierendes Hauptbuch zu verwenden, um den besten Weg nach unten zu scheren. Jede einzelne Person, die in der Blockchain tätig ist, behält ihre eigene Transaktionshistorie und bewahrt die Transaktionshistorie ihrer Freunde und einiger der Freunde ihrer Freunde“, sagt er.
„Wenn man ganz nach unten splittert, will man kein Hauptbuch – man will keinen Datenbanktisch. Dieses Zeug ist viel zu zentralisiert.“
Er sagt, dass einige Proof-of-Concept-HyperCycle-Knoten bereits in Betrieb sind, eine vollständige Einführung jedoch erst in der zweiten Hälfte des Jahres 2024 erfolgen wird.
Wir verbringen viel Zeit damit, die unterschiedlichen Vorteile verschiedener Blockchain-Ansätze zu diskutieren, von Web Laptop bis Elastos und Celestia, von denen viele über meiner Gehaltsklasse liegen und die Fähigkeit meines Aufnahmegeräts übersteigen, in einem lauten Restaurant präzise zu erfassen.
Er schließt mit den Worten: „Ich habe einfach wirklich das Gefühl, dass keine dieser Architekturen radikal genug ist. Sie kleben alle zu nah Bitcoin"
„Solange Sie jeden vernünftigen Vertrag auf jedem Knoten bearbeiten, impliziere ich, wird es wahnsinnig träge sein. Jetzt, in HyperCycle, für diejenigen, die einen klugen Vertrag auf 5 Knoten ausführen, ist es mindestens nur 5 Mal so träge wie auf einer Maschine – es ist nicht 10,000 Mal langsamer.“
Warum dann Cardano?
Goertzel hat sich mit Cardano-Gründer Charles Hoskinson angefreundet, wobei sich die beiden über ihre Aktivitäten in Afrika freunden. Er glaubt, dass Hoskinson „wirklich auf dem Markt ist, um viel Welt zu retten. Ich meine, politisch ist er mehr ein Hardcore-Libertärer als ich – ich bin eher ein Anarchosozialist – aber er ist nicht nur dabei, um Geld zu verdienen oder andere Leute um ihr Geld zu bringen.“
Der eigentliche Zauber von Cardano besteht jedoch darin, dass es die Programmiersprache Haskell verwendet, von der Goertzel seit 1993 begeistert ist. Es schmerzt ihn enorm, dass Ethereum-Mitbegründer Vitalik Buterin sich für Gavin Woodens vernünftige Vertragsprogrammiersprache Solidity entschieden hat.
„Wenn nur Vitalik mehr PC-Wissenschaft erkannt hätte, hätte er sie dazu gebracht, Haskell oder Fis oder so etwas zu verwenden, und es gäbe viel weniger Hacks der Blockchain“, sagt er.
„Für diejenigen, die in vielen Wirtschaftssystemen der Welt tätig sind und Billionen von {Dollar} für irgendein Softwaresystem kaufen und verkaufen, wäre es besser, dieses Softwaresystem in einer Sprache zu erstellen, die dafür nicht geeignet ist Bugs und der Ort, an dem Ihre Algorithmen mit einem mathematischen Konzept formal verifiziert werden können. Es ist einfach die beste Lösung, um Probleme zu lösen.“
Lückenlose Antwort
Unabhängig davon, wie schnell die Blockchain wird, so schnell, weil die AGI um eine Größenordnung klüger und erfolgreicher ist als die Menschen, sagt Goertzel, dass sie niemanden verwalten lassen wird.
„Wenn ein AGI 100-mal schlauer ist als die Menschen, möchte es nicht von uns verwaltet werden, so wie wir nicht von einem Schimpansen oder einem Esel verwaltet würden, richtig?“
„Dann könnte ich sagen, die Frage ist nicht jeder von uns, die sie kontrolliert, die Frage ist: Ist sie effektiv für uns bestimmt? Wird es den Leuten ermöglichen, ihr eigenes Unternehmen zu regulieren und uns coole Instrumente und Nano-Assembler zur Verfügung zu stellen, um all das Zeug, das wir möchten, in 3D zu drucken und unsere Krankheiten zu heilen?
„Aber in der Übergangszeit, in der der AGI die gleiche Intelligenz wie die Menschen hat, sind die Dinge besonders heikel und aufmerksamkeitsstark. Und die Frage ist dann: Möchte die AGI mit Leuten zusammenarbeiten? Oder ist es paranoid und muss die Leute regulieren, bevor sie es zerstören?“
Erziehen Sie Ihre Kinder effektiv
Goertzels Meinung nach besteht die Antwort darin, dem AGI etwas über die Fürsorge für andere und über Kreativität und Kunstwerke zu zeigen. Das ist der Ort, an dem Desdemona the Robotic in seiner Band und ihre Schwester Grace – die darauf ausgelegt ist, Altenpflege anzubieten – verfügbar sind.
Die Art und Weise, wie Sie vermeiden, dass ein AGI zu Terminators Skynet wird, besteht darin, es nicht von vornherein auf diese Weise zu konstruieren.
„Schließlich war Skynet im Film eine PC-Sicherheits-Community, die Amok lief. Es wurde geschaffen, um sich gegenüber Menschen zu verteidigen“, sagt er.
„Aber für diejenigen, die das primäre AGI für die Altenpflege und kreative Künste und Ausbildung entwickeln, weil es intelligenter wird, wird es darauf ausgerichtet sein, Menschen zu dienen und coole Sachen zu kreieren. Für diejenigen, die das primäre AGI bauen, um die ungesunden Typen zu töten … vielleicht sollte es diese Dinge weiterhin tun.
„Ob nützlich oder nicht, es kommt also darauf an, welche Funktionen Sie entwickelt und wofür Sie Anreize geschaffen haben.“
Er glaubt, dass es sinnvoll ist, KIs in unseren Roboterkörpern zu platzieren, weil es hilft, sie in der realen Welt zu platzieren, anstatt in einem abstrakten mathematischen Universum.
Sophia the Robotic startet schnell mit ihrer persönlichen Metaverse-Plattform. (Bezug: Sophiaverse)
„KI sollte in Bezug auf die menschliche Welt und die körperliche Welt studieren. Auf dem Planeten verkörpert zu sein, ist die beste Methode, dies zu versuchen“, sagt er.
Wenn er jedoch Sophia the Robotic einem riesigen Publikum präsentiert, können die sichtbaren und akustischen Sensoren einfach überwältigend sein und die KI in einer lauten und glänzenden Atmosphäre erschweren. Also wird Sophia wahrscheinlich schnell innerhalb des Metaversums, bekannt als Sophiaverse, starten. Vernachlässigen Sie die langweiligen textbasierten Lösungen von ChatGPT, Sophia ist in einer digitalen 3D-Welt verkörpert, und er oder sie wird durch die Interaktion mit den Leuten dort lernen. Er warnt jedoch davor, dass sie wahrscheinlich einige dumme Dinge sagen wird.
„Es hat ein neuronales Netz wie GPT-3 und so weiter, das wichtige Möglichkeiten hat, Ihre Fragen zu beantworten, aber sie sind in manchen Fällen auch ziemlich dumm.“
Abonnieren
Wahrscheinlich die am meisten teilnehmenden Reads in der Blockchain. Geliefert sobald a
Woche.
Andreas Fenton
Andrew Fenton lebt hauptsächlich in Melbourne und ist ein Journalist und Redakteur, der sich mit Kryptowährung und Blockchain beschäftigt. Er hat als landesweiter Freizeitautor für Information Corp Australia, am SA Weekend als Filmjournalist und bei The Melbourne Weekly gearbeitet.
Halten Sie sich an den Schöpfer @andrewfenton
