Lorsqu'il n'est pas engagé à accélérer la ruée de l'humanité vers la Singularité en créant une intelligence commune synthétique (AGI), Ben Goertzel se produit dans un groupe de jazz-rock connu sous le nom de Jam Galaxy dirigé par un robot nommé Desdemona.
C'est l'une de ses nombreuses initiatives à facettes, ce qui l'a naturellement amené à tenter de symboliser l'entreprise musicale en s'adressant aux membres de Pearl Jam et Coronary Heart. Goertzel peut également être impliqué dans l'analyse de la longévité en externalisant l'information sur le bien-être humain avec des récompenses symboliques via une application appelée Rejuve.ai. Ces données sont ensuite regroupées avec des connaissances sur les animaux et les insectes et analysées avec une IA pour déterminer quels composants des génomes pourraient nous faire vivre plus longtemps, puis stimulés à l'aide de thérapies géniques. « Nous avons fait des découvertes assez importantes, dit-il. Oh, et juste avant la fin de notre entretien d'une heure, il mentionne avec désinvolture qu'il crée également un stablecoin pour son marché décentralisé de l'IA, Singularity.web, qui est indexé sur un indice synthétique de progrès environnemental – à la suite de le rattacher aux {dollars} américains peut être "boiteux".
« Les progrès sur l'atmosphère pourraient être très sûrs. Cela ne va jamais nulle part », explique-t-il.
"Et pour contrôler cela, il est important de vraiment remédier au réchauffement climatique."
C'est le type précis de remarque politique qui rencontre la technologie de pointe que vous pouvez attendre de Goertzel, qui ressemble et ressemble à un scientifique hippie qui est tombé dans une machine à voyager dans le temps en 1971 et qui en est ressorti totalement façonné en 2023. Mais ne vous y trompez pas. par le chapeau imprimé animal, les cheveux longs et le voyage acide électrique Kool-Assist traînant: C'est un excellent scientifique avec une compréhension des années douces à long terme à venir pour la plupart et qui est aux prises avec quelques-unes des plus grandes idées auxquelles l'humanité ait jamais pensé. Qu'est-ce que la conscience ? Comment pouvons-nous créer une vie synthétique, et que se passe-t-il si elle ne nous aime pas, devient voyou et arme tout le monde comme dans Terminator 2 ?
Ben Goertzel (à gauche) et Jam Galaxy menés par Desdemona the Robotic (deuxième à gauche).
Qu'est-ce que l'intelligence commune synthétique ?
Goertzel a popularisé la période «intelligence commune synthétique» comme une solution pour différencier une véritable machine à réfléchir qui étudierait à peu près quelque chose, des IA qui pourraient être optimisées pour un processus spécifique, tout comme le PC Deep Blue qui a battu le célèbre champion du monde d'échecs Garry Kasparov. Il admet volontiers qu'il y a des risques à construire une machine capable d'étudier tout et n'importe quoi, ainsi que la bonne façon de se reprogrammer pour devenir un ordre de grandeur plus intelligent que n'importe quel humain.
"Il y a beaucoup de dangers et de risques avec AGI", déclare Goertzel au sujet du vacarme dans un restaurant indien dans un centre d'achat très fréquenté à Singapour. « Considéré comme l'un d'entre eux qui a attiré l'attention des médias, c'est qu'AGI va se déchaîner et anéantir l'humanité et prendre le contrôle de l'univers. C'est tout à fait faisable; vous ne pourrez pas l'exclure », dit-il.
"Une autre menace supplémentaire possible est que de méchants égocentriques utilisent l'IA pour exercer leur propre cupidité et leur propre gestion sur d'autres personnes."
Selon lui, il est peu probable que les gouvernements fassent des percées dans l'AGI car ils sont "trop conservateurs et idiots", bien qu'il note que la Chine sous-traite son travail AGI à des entreprises comme Tencent et Baidu. Plus près de chez lui, il pense que Google et les divisions AI de Facebook ne se remettront pas toutes les deux de la route, car elles seront trop centrées sur le fait que l'IA atteint certaines mesures, ce qui n'est pas propice à la pensée artistique.
"Comme la plupart des bonnes personnes ne souhaitent pas simplement servir les paramètres d'une autre personne, je pense que l'intelligence artificielle commune ne souhaite pas nécessairement maximiser le clic sur la page Web de quelqu'un non plus, n'est-ce pas ? C'est acheté pour être autorisé à déconner de manière créative.
Traitez votre AGI correctement ou cela finira en larmes. Alimentation : Terminator 2
La Singularité vers 1970
Goertzel a commencé l'université à 15 ans, a obtenu son diplôme à 18 ans, a obtenu un doctorat à 22 ans et une famille plus jeune à 23 ans. considérant également la philosophie, l'écriture artistique et la musique.
Il a passé une grande partie de sa carrière à enseigner et à faire des recherches sur les sciences informatiques, l'arithmétique et les sciences cognitives dans diverses universités du monde entier tout en se consacrant à la technologie de l'IA à tout moment. Un fondateur en série qui a tendance à avoir quelques décennies d'avance sur tout le monde avec ses idées – qui, dans l'entreprise, équivaut à être inapproprié – il a travaillé sur l'utilisation de l'IA pour prédire les marchés financiers et la longévité, et il a également eu un passage parce que le scientifique en chef de Hanson Robotics, où il a donné à Sophia the Robotic son esprit artificiel.
Goertzel était enthousiaste à propos des progrès technologiques exponentiels depuis les années XNUMX lorsqu'il a lu pour la première fois The Prometheus Undertaking de Gerald Feinberg, qui parle de "machines qui peuvent supposer plus élevées que les gens… des machines de nanotechnologie qui peuvent être microscopiquement petites, et nous allons nous démêler en vieillissant. ” Cela concordait bien avec l'idée montante de la Singularité, un niveau futur hypothétique où les progrès technologiques deviennent incontrôlables et irréversibles, entraînant d'énormes changements dans la civilisation humaine.
Une copie en lambeaux de The Prometheus Undertaking. Fourniture : archives Web
"Donc, les gens resteront sans cesse, alors la question sera, à quoi pouvons-nous utiliser ces sciences appliquées, un consumérisme rapide et insensé, ou pouvons-nous les utiliser pour élargir la conscience ? Et ce qu'il [Feinberg] a proposé, c'est de soumettre cela à un vote démocratique.
Des années plus tard, lorsqu'il a commencé à voir qu'AGI était à notre portée, ce «vote démocratique» est devenu l'inspiration pour utiliser d'abord l'expertise open source et, ensuite, la blockchain comme solution pour mettre un groupe coopératif responsable de l'expertise.
"Ce que j'ai remarqué à un certain niveau, c'est qu'avec l'IA, avoir le code ouvert n'est pas suffisant", dit-il. "Vous avez en fait besoin de coacher l'IA sur un tas d'informations."
"C'est là que la blockchain vient comme une solution pour rendre le traitement et les informations sous-jacentes à l'IA décentralisés et de nature participative et ouverts dans la gestion. Et cela semble être plus délicat que de simplement ouvrir le code.
Goertzel a basé OpenCog en 2008 pour construire un cadre d'intelligence synthétique open source et participatif. Il a été utilisé par 50 entreprises, dont Huawei et Cisco, et est prêt pour une mise à niveau sérieuse rapidement connue sous le nom d'Hyperon qui vise à l'accélérer de 200 fois. Le modèle alpha est attendu ce trimestre et le bêta est prévu dans les 12 prochains mois.
La blockchain est fondamentale mais cool
Pour Goertzel, l'expertise blockchain est un peu fondamentale. Il le décrit comme des algorithmes distribués primitifs ajoutés à la cryptographie, mais le «mélange cool» permet aux systèmes de fonctionner sans gestion centralisée, ce qui le rend bon pour ses besoins.
"Si vous fabriquez une machine à réfléchir et que vous la faites distribuer du tissu informatique à l'échelle nanométrique, cela pourrait être très bien si cela appartenait à tout le monde et que personne ne gérait tout à fait le niveau principal."
Les chaînes de blocs sont beaucoup trop lentes pour faire face aux nécessités de traitement et aux gros volumes d'informations concernés, il y a donc une course pour mettre à l'échelle correctement la chaîne de blocs avant qu'une AGI révolutionnaire ne soit développée. Goertzel dit que bien que les options de mise à l'échelle telles que les cumuls à zéro connaissance soient plus élevées, elles n'ont toujours pas une bande passante suffisante en raison des limitations de la blockchain à laquelle elles signalent les transactions.
Il a cofondé Singularity.web en 2017, qui est à la fois un marché décentralisé pour les entreprises et l'expertise en IA et une technique de coordination basée sur la blockchain permettant aux chercheurs - et même aux IA - de travailler ensemble.
Actuellement, basé principalement sur Ethereum, il pense qu'il a poussé les choses jusqu'à ce qu'elles aillent sur la blockchain dans son genre actuel. Ainsi, lorsqu'il n'est pas engagé dans une percée dans AGI (ou le groupe, ou les robots, ou la longévité), il s'est engagé dans une blockchain à grande échelle pour lui offrir le débit requis.
"Sauf que vous pourrez améliorer radicalement l'évolutivité de la blockchain, vous ne pourrez pas mettre le fonctionnement interne de l'IA en chaîne."
Mon père @tedgoertzel a déterré cette coupure de presse de 1961 (5 ans avant moi) lorsqu'il était coprésident de SLAM, la Scholar League Against Mortality, une organisation étudiante dont l'objectif était d'abolir la mort. Il y avait même des prévisions de tendances quantitatives proto-kurzweiliennes ! Premières racines de @Rejuve_AI pic.twitter.com/ZD7ycEGRum
– Ben Goertzel (@bengoertzel) 24 décembre 2022
L'IA est plus proche que vous ne le supposez
2022 a été l'une des 12 dernières années révolutionnaires pour les produits de travail basés principalement sur l'expérience de l'IA, y compris les fonctions linguistiques (GPT-3, ChatGPT), le codage (GitHub Copilot) et la technologie d'image (DALL-E et Secure Diffusion). Bing prévoit même de s'attaquer à la domination de recherche de Google cette année en incorporant la technologie ChatGPT dans son moteur de recherche.
Goertzel pense qu'un AGI pourrait être dans aussi peu que 5 ans et note que les développements dans le sujet semblent se dérouler en brèves rafales de trois ou quatre ans dans une série de percées.
"Laptop Imaginative and prescient a commencé en 2014, après quoi rapidement, bang, bang, bang, le thriller a été résolu. Traitement du langage pur… après que Google a inventé le modèle Bert (en 2018), vous aviez GPT-3. Vous verrez probablement le même arc de progression dans AGI. Vous aurez une percée, puis une quantité substantielle de progrès pendant 2 ans », a-t-il déclaré.
"La distinction étant le progrès révolutionnaire, dans ce cas, se termine par une machine qui peut ensuite continuer à progresser elle-même en réécrivant son code personnel."
Goertzel espère que les initiatives et les collaborations qu'il a mises en place pourraient être la façon dont cela se passe.
"Si nous avons de la chance, nous obtiendrons cette percée dans les trois à cinq prochaines années avec OpenCog Hyperon travaillant sur Singularity.web travaillant sur Hypercycle", dit-il. "Mais quand nous ne prouvons pas que nous avons la sauce clé, quelqu'un d'autre le fera."
Journal a rencontré Ben Goertzel à Singapour. Fournisseur : Andrew Fenton
Dommage que Vitalik n'était pas un scientifique informatique
La réponse de Goertzel à la mise à l'échelle de la blockchain est assez radicale et implique le turbo-chargement d'une sidechain ou couche 2 de Cardano connue sous le nom de "HyperCyle".
«C'est vraiment mieux qu'une sidechain. HyperCycle coopérera également avec Ethereum et d'autres blockchains, mais nous allons utiliser l'interpréteur Plutus là-bas, mais nous supprimons le grand livre.
Il a décrit HyperCycle en ligne comme résolvant le "trilemme de la blockchain" de "décentralisation contre sécurité contre efficacité en éliminant le grand livre et en utilisant des algos et des bâtiments de connaissances supplémentaires à la mode / totalement décentralisés, ainsi qu'un peu d'intelligence artificielle et des techniques de réputation. "
Le grand livre est au cœur de la technologie blockchain, mais il dit que faire en sorte que chaque nœud du réseau copie chaque transaction et le déroulement de chaque contrat logique est ridiculement inefficace.
« Le grand livre est tout simplement malsain. Si vous y réfléchissez, si vous considérez l'analogie de vos contacts dans votre répertoire, je veux dire, le grand livre est comme […] protéger 10,000 10,000 copies des Pages Jaunes, et aussi vous les mettez à jour chaque fois que quelqu'un de nouveau arrive ou si quelqu'un s'adapte leur quantité de téléphone portable. C'est vraiment idiot de remplacer XNUMX XNUMX exemplaires des Pages Jaunes.
Apprenez en plus
Options
Daft Punk rencontre CryptoPunks alors que Novo fait face à autant de NFT
Options
Propriété passée dans le sport : Blockchain Gaming, DAO, guildes et Ragequitting
Dans le modèle HyperCycle de l'analogie, au lieu que tout le monde stocke et mette à jour l'annuaire téléphonique, les personnes de votre libraire contact un duplicata de votre livre d'adresse, et vice versa, crypté avec votre clé personnelle.
«Nous avons découvert la bonne façon de faire fonctionner la blockchain et de ne pas utiliser de registre de réplication, afin de fragmenter au mieux. Chaque personne impliquée dans la blockchain conserve son propre historique de transaction et conserve l'historique de transaction de ses amis et de quelques amis de ses amis », dit-il.
« Sharding tout en bas, vous ne voulez pas d'un registre – vous ne voulez pas d'un bureau de base de données. Ces trucs sont trop centralisés.
Il dit que certains nœuds HyperCycle de preuve de concept sont déjà opérationnels, mais un lancement à grande échelle n'aura pas lieu avant le second semestre 2024.
Nous passons beaucoup de temps à discuter des mérites variés des différentes approches de la blockchain, de Web Laptop à Elastos et Celestia, dont beaucoup sont au-dessus de mon niveau de rémunération et dépassent la capacité de mon gadget d'enregistrement à saisir précisément dans un restaurant bruyant.
Il conclut en disant: «Donc, j'ai simplement l'impression qu'aucune de ces architectures n'est suffisamment radicale. Ils collent tous trop près Bitcoin. »
«Tant que vous travaillez sur chaque contrat raisonnable sur chaque nœud, je veux dire, ça va être incroyablement lent. Maintenant, dans HyperCycle, pour ceux qui exécutent un contrat intelligent sur 5 nœuds, au moins c'est seulement 5 fois aussi lent que sur une machine - ce n'est pas 10,000 XNUMX fois plus lent.
Pourquoi Cardano, alors ?
Goertzel est devenu ami avec le fondateur de Cardano, Charles Hoskinson, le couple se liant sur leurs projets en Afrique. Il pense que Hoskinson est «véritablement sur le marché pour sauver une grande partie du monde. Je veux dire, politiquement, il est plus un libertaire inconditionnel que moi – je suis plus un anarcho-socialiste – mais il n'est pas simplement là pour gagner de l'argent ou escroquer d'autres personnes de leur argent.
Cependant, l'enchantement réel de Cardano est qu'il utilise le langage de programmation Haskell, dont Goertzel est fan depuis 1993. Cela le peine énormément que le co-fondateur d'Ethereum, Vitalik Buterin, ait opté pour Solidity, le langage de programmation de contrat sensé de Gavin Wooden.
"Si seul Vitalik avait reconnu la science informatique supplémentaire, il leur aurait fait utiliser Haskell ou F Sharp ou autre chose, et il y aurait beaucoup moins de hacks de la blockchain", dit-il.
"Pour ceux qui vont travailler sur une grande partie du système économique mondial, acheter et vendre des billions de {dollars} sur un système de logiciel, vous feriez mieux de construire ce système de logiciel dans un langage qui n'est pas susceptible de bogues et où vos algorithmes peuvent être formellement vérifiés à l'aide d'un concept mathématique. C'est tout simplement la meilleure solution pour régler les problèmes.
Réponse de cessez-l'écart
Quelle que soit la rapidité avec laquelle la blockchain deviendra, aussi rapidement que l'AGI est d'un ordre de grandeur plus intelligent et plus performant que les gens, Goertzel dit qu'il ne laissera personne le gérer.
"Quand un AGI est 100 fois plus intelligent que les gens, il ne veut pas être géré par nous, car nous ne serions pas gérés par un chimpanzé ou un âne, n'est-ce pas?"
"Alors je pourrais dire que la question n'est pas celle de chacun de nous qui la contrôle, la question est : est-elle bien disposée pour nous ? Cela permettra-t-il aux gens de réglementer leur propre entreprise et de nous fournir des instruments sympas et des nano-assembleurs pour imprimer en 3D tout ce que nous aimerions et soigner nos maladies ? »
«Mais la période de transition lorsque l'AGI est à travers la même intelligence que les gens, c'est à ce moment que les choses sont plus sensibles et plus accrocheuses. Et la question est alors : l'AGI souhaite-t-elle coopérer avec les gens ? Ou est-ce paranoïaque et veut-il réguler les gens avant de le détruire?
Éduquez efficacement vos enfants
De l'avis de Goertzel, la réponse est de montrer à l'AGI qu'il faut prendre soin des autres et parler de créativité et d'œuvres d'art. C'est là que Desdemona the Robotic dans son groupe et sa sœur Grace – qui est conçue pour offrir des soins aux personnes âgées – sont disponibles.
La façon dont vous évitez qu'un AGI ne devienne Terminator's Skynet est de ne pas le construire de cette manière en premier lieu.
«Skynet, après tout, dans le film, il y avait une communauté de sécurité informatique qui s'est déchaînée. Il a été créé pour se défendre contre les gens », dit-il.
«Mais pour ceux qui construisent l'AGI principal en rapport avec les soins aux personnes âgées et les arts et la formation inventifs, car il deviendra plus intelligent, il sera orienté vers le service aux gens et la création de trucs sympas. Pour ceux qui construisent l'AGI principal pour tuer les méchants… peut-être qu'il devrait continuer à faire ces choses.
"Donc, utile ou non, cela dépend en fait des fonctions que vous avez développées et de ce pour quoi vous avez encouragé."
Il pense que placer des IA dans nos corps robotiques est utile car cela aide à les situer dans le monde réel, plutôt que dans un univers mathématique sommaire.
Sophia the Robotic lance rapidement sa plate-forme métaverse personnelle. (Fourniture : Sophiaverse)
"L'IA doit étudier le monde humain et le monde physique. Être incarné sur la planète est la meilleure méthode pour essayer cela », dit-il.
Pourtant lorsqu'il présente Sophia la Robotique à un large public, les capteurs visuels et auditifs peuvent être tout simplement écrasants, compliqué l'IA dans une ambiance bruyante et brillante. Ainsi, Sophia se lancera probablement rapidement dans le métaverse, connu sous le nom de Sophiaverse. Oubliant les solutions textuelles ennuyeuses de ChatGPT, Sophia s'incarne dans un monde numérique en 3D, et il ou elle apprendra en interagissant avec les gens là-bas. Cependant, il prévient qu'elle dira probablement des choses stupides.
"Il a un réseau neuronal comme GPT-3 et ainsi de suite, qui ont une capacité importante pour répondre à vos questions, mais ils sont également assez stupides à certains égards."
S'abonner
Probablement les lectures les plus participantes de la blockchain. Livré dès qu'un
semaines.
Andrew Fenton
Principalement basé à Melbourne, Andrew Fenton est un journaliste et éditeur superposant la crypto-monnaie et la blockchain. Il a travaillé en tant qu'auteur de loisirs à l'échelle nationale pour Information Corp Australia, sur SA Weekend en tant que journaliste de cinéma et au Melbourne Weekly.
Se conformer au créateur @andrewfenton
