Los profetas de la industria tecnol\u00f3gica afirman que, alg\u00fan d\u00eda, las compa\u00f1\u00edas, los gobiernos o los investigadores independientes podr\u00edan desplegar sistemas de inteligencia artificial poderosos para manejar todo, desde negocios hasta la guerra.<\/p>\n
El mes pasado, cientos de personas destacadas en el mundo de la inteligencia artificial firmaron una carta p\u00fablica para advertir que la inteligencia artificial podr\u00eda alg\u00fan d\u00eda destruir a la humanidad.<\/p>\n
La declaraci\u00f3n de una frase manifest\u00f3: \u201cMitigar el riesgo de extinci\u00f3n a causa de la inteligencia artificial deber\u00eda ser una prioridad global junto a otros riesgos que impactan a toda la sociedad, tales como las pandemias y la guerra nuclear\u201d.<\/p>\n
La carta fue la m\u00e1s reciente de una serie de advertencias siniestras sobre la inteligencia artificial que han sido, de manera notable, escasas en detalles. Los sistemas de inteligencia artificial actuales no pueden destruir a la humanidad. Algunos de ellos apenas pueden sumar y restar. As\u00ed que, \u00bfpor qu\u00e9 est\u00e1n tan preocupadas las personas que m\u00e1s saben sobre inteligencia artificial?<\/p>\n
Los profetas de la industria tecnol\u00f3gica afirman que, alg\u00fan d\u00eda, las compa\u00f1\u00edas, los gobiernos o los investigadores independientes podr\u00edan desplegar sistemas de inteligencia artificial poderosos para manejar todo, desde negocios hasta la guerra. Esos sistemas podr\u00edan hacer cosas que no queremos que hagan. Adem\u00e1s, si los humanos intentaran interferir o apagarlos, podr\u00edan resistirse o incluso replicarse a s\u00ed mismos para poder seguir operando.<\/p>\n
Yoshua Bengio, un profesor e investigador de inteligencia artificial en la Universidad de Montreal, coment\u00f3: \u201cLos sistemas actuales no est\u00e1n ni cerca de representar un riesgo existencial. Pero… \u00bfen uno, dos o cinco a\u00f1os? Hay mucha incertidumbre. Ese es el tema. No estamos seguros de que esto no pasar\u00e1 de un punto en el que las cosas se vuelvan catastr\u00f3ficas\u201d.<\/p>\n
Quienes est\u00e1n preocupados a menudo usan una met\u00e1fora sencilla. Aseguran que, si le pides a una m\u00e1quina que cree tantos sujetapapeles como le sea posible, podr\u00eda dejarse llevar y transformar todo (incluida la humanidad) en f\u00e1bricas de sujetapapeles.<\/p>\n
\u00bfC\u00f3mo se relaciona eso con el mundo real (o con un mundo imaginario en un futuro cercano)? Algunas compa\u00f1\u00edas podr\u00edan darles a los sistemas de inteligencia artificial cada vez mayor autonom\u00eda y conectarlos a infraestructura vital, incluyendo redes el\u00e9ctricas, mercados de valores y armamento militar. A partir de ah\u00ed, podr\u00edan causar problemas.<\/p>\n
Para muchos expertos, esto no parec\u00eda factible hasta el \u00faltimo a\u00f1o, cuando compa\u00f1\u00edas como OpenAI demostraron avances significativos en su tecnolog\u00eda. Eso mostr\u00f3 lo que podr\u00eda ser posible si la inteligencia artificial contin\u00faa avanzando a un ritmo tan acelerado.<\/p>\n
Anthony Aguirre, un cosm\u00f3logo en la Universidad de California, campus Santa Cruz, y uno de los fundadores del Future of Life Institute, la organizaci\u00f3n detr\u00e1s de una de las dos cartas p\u00fablicas, se\u00f1al\u00f3: \u201cA la inteligencia artificial le delegar\u00e1n cada vez m\u00e1s tareas y podr\u00eda (conforme se vuelva m\u00e1s aut\u00f3noma) usurpar la toma de decisiones y el pensamiento de los humanos actuales y las instituciones administradas por humanos\u201d.<\/p>\n
Agreg\u00f3: \u201cEn cierto punto, se volver\u00eda evidente que la gran m\u00e1quina que gestiona a la sociedad y a la econom\u00eda no est\u00e1 en realidad bajo el control humano y que no se puede apagar, as\u00ed como no se puede apagar el \u00edndice burs\u00e1til S&P 500\u2033.<\/p>\n
O algo as\u00ed dice la teor\u00eda. Otros expertos en inteligencia artificial creen que esta es una premisa rid\u00edcula.<\/p>\n
Oren Etzioni, el director ejecutivo fundador del Instituto Allen de Inteligencia Artificial, un laboratorio de investigaci\u00f3n en Seattle, mencion\u00f3: \u201cHipot\u00e9ticamente, es una manera muy educada de explicar lo que pienso de la ret\u00f3rica del riesgo existencial\u201d.<\/p>\n
No del todo. Sin embargo, los investigadores est\u00e1n transformando chatbots como ChatGPT en sistemas que pueden realizar acciones basadas en el texto que generan. El proyecto llamado AutoGPT es un ejemplo destacado.<\/p>\n
La idea es darle al sistema metas como \u201ccrea una compa\u00f1\u00eda\u201d o \u201cgenera dinero\u201d. Despu\u00e9s, se pondr\u00e1 a buscar maneras de alcanzar el objetivo, en particular si est\u00e1 conectado a otros servicios de internet.<\/p>\n
Un sistema como AutoGPT puede generar programas computacionales. Si los investigadores le dan acceso a un servidor, podr\u00eda de verdad ejecutar esos programas. En teor\u00eda, de esta manera, AutoGPT podr\u00eda hacer casi cualquier cosa en l\u00ednea: recuperar informaci\u00f3n, usar aplicaciones, crear nuevas aplicaciones e incluso mejorar sus propias funciones.<\/p>\n
Los sistemas como AutoGPT no funcionan bien en este momento. Suelen atorarse en bucles infinitos. Los investigadores le dieron a un sistema todos los recursos que necesitaba para replicarse. No pudo hacerlo.<\/p>\n
Con el tiempo, esas limitaciones podr\u00edan resolverse.<\/p>\n
Los sistemas de inteligencia artificial como ChatGPT se construyen sobre redes neuronales, sistemas matem\u00e1ticos que pueden aprender habilidades mediante el an\u00e1lisis de datos.<\/p>\n
Alrededor de 2018, compa\u00f1\u00edas como Google y OpenAI empezaron a construir redes neuronales que aprend\u00edan a partir de cantidades enormes de texto digital recopilado de internet. Al identificar patrones en todos estos datos, estos sistemas aprenden a generar escritos por s\u00ed solos, como art\u00edculos informativos, poemas, programas inform\u00e1ticos e incluso conversaciones similares a las humanas. El resultado: chatbots como ChatGPT.<\/p>\n
Debido a que aprenden de m\u00e1s datos de los que siquiera sus creadores podr\u00edan entender, estos sistemas tambi\u00e9n exhiben comportamientos inesperados. Un grupo de investigadores demostr\u00f3 hace poco que un sistema fue capaz de contratar a un humano en l\u00ednea para que le ayudara a completar una prueba CAPTCHA. Cuando el humano pregunt\u00f3 si era \u201cun robot\u201d, el sistema minti\u00f3 y afirm\u00f3 que era una persona con un impedimento visual.<\/p>\n
A algunos expertos les preocupa que conforme los investigadores hacen estos sistemas m\u00e1s poderosos, al entrenarlos con cantidades de datos cada vez mayores, podr\u00edan aprender m\u00e1s h\u00e1bitos malos.<\/p>\n
A principios de la d\u00e9cada de los 2000, un escritor joven llamado Eliezer Yudkowsky empez\u00f3 a advertir que la inteligencia artificial podr\u00eda destruir a la humanidad. Sus publicaciones en l\u00ednea crearon una comunidad de creyentes. Conocidos como racionalistas o altruistas efectivos, esta comunidad amas\u00f3 una enorme influencia en el \u00e1mbito acad\u00e9mico, los grupos de expertos gubernamentales y la industria tecnol\u00f3gica.<\/p>\n
Yudkowsky y sus escritos fueron contribuciones clave a la creaci\u00f3n de tanto OpenAI como DeepMind, un laboratorio de inteligencia artificial que Google adquiri\u00f3 en 2014. Y muchos integrantes de la comunidad de altruistas efectivos trabajaron en estos laboratorios. Cre\u00edan que, como entend\u00edan los peligros de la inteligencia artificial, estaban en la mejor posici\u00f3n para construirla.<\/p>\n
Las dos organizaciones que recientemente publicaron cartas p\u00fablicas para advertir sobre los riesgos de la inteligencia artificial (el Center for AI Safety y el Future of Life Institute) est\u00e1n vinculados de manera estrecha con este movimiento.<\/p>\n
Las advertencias recientes tambi\u00e9n provienen de pioneros de la investigaci\u00f3n y l\u00edderes de la industria como Elon Musk, quien ha advertido desde hace mucho tiempo sobre los riesgos. La carta m\u00e1s reciente la firmaron Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, quien ayud\u00f3 a fundar DeepMind y ahora supervisa un nuevo laboratorio de inteligencia artificial que combina a los mejores investigadores de DeepMind y Google.<\/p>\n
Otras figuras respetadas firmaron una o ambas cartas de advertencia, incluidos Bengio y Geoffrey Hinton, quien renunci\u00f3 hace poco como ejecutivo e investigador en Google. En 2018, ambos recibieron el Premio Turing, a menudo llamado \u201cel Premio Nobel de la Computaci\u00f3n\u201d, por su labor en redes neuronales.<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
Los profetas de la industria tecnol\u00f3gica afirman que, alg\u00fan d\u00eda, las compa\u00f1\u00edas, los gobiernos o los investigadores independientes podr\u00edan desplegar sistemas de inteligencia artificial poderosos para manejar todo, desde negocios hasta la guerra. El mes pasado, cientos de personas destacadas en el mundo de la inteligencia artificial firmaron una carta p\u00fablica para advertir que la…<\/p>\n","protected":false},"author":4,"featured_media":12788,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[5],"tags":[],"_links":{"self":[{"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/posts\/12787"}],"collection":[{"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12787"}],"version-history":[{"count":0,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/posts\/12787\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=\/wp\/v2\/media\/12788"}],"wp:attachment":[{"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12787"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12787"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elportalsemanario.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12787"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}