Prepárese para la llegada: el pionero de la tecnología advierte sobre una invasión alienígena

Una especie alienígena se dirige al planeta Tierra y no tenemos motivos para creer que será amistosa. Algunos expertos predicen que llegará aquí dentro de 30 años, mientras que otros insisten en que llegará mucho antes. Nadie sabe cómo se verá, pero compartirá dos rasgos clave con nosotros los humanos: será inteligente Y consciente de sí mismo.

No, este extraterrestre no vendrá de un planeta lejano: nacerá aquí mismo en la Tierra, nacerá en un laboratorio de investigación en una gran universidad o una gran empresa. me refiero a la primera inteligencia artificial general (AGI) que alcanza (o supera) la cognición a nivel humano.

Mientras escribo estas palabras, se están gastando miles de millones para dar vida a este extraterrestre, ya que sería considerado uno de los mayores logros tecnológicos en la historia de la humanidad. Pero a diferencia de nuestros otros inventos, este tendrá una mente propia, literalmente. Y si se comporta como cualquier otra especie inteligente que conocemos, pondrá sus propios intereses primero, trabajando para maximizar sus perspectivas de supervivencia.

IA a nuestra imagen

¿Debemos temer a una inteligencia superior guiada por las propias metas, valores e intereses personales? Mucha gente rechaza esta pregunta, creyendo que construiremos sistemas de inteligencia artificial en nuestra propia imagen, asegurándose de que piensen, sientan y se comporten como nosotros. Esto es extremadamente improbable que sea el caso.

Las mentes artificiales no se crearán escribiendo software con reglas cuidadosamente elaboradas que les hagan pensar como nosotros. En cambio, los ingenieros introducen enormes conjuntos de datos en algoritmos simples que ajustan automáticamente sus parámetros, haciendo millones y millones de pequeños ajustes en su estructura hasta que surge una inteligencia, una inteligencia con mecanismos internos que son demasiado complejos para comprender.

Y no, alimentando los datos en humanos no lo hará pensar como lo hacen los humanos. Este es un error común: la falsa creencia de que al entrenar una IA con datos que describe comportamientos humanos, haremos que acabe pensando, sintiendo y actuando como hacemos. Él no.

En su lugar, vamos a construir estas criaturas de IA para saber humanos, no ser – estar humano. Y sí, nos conocerán por dentro y por fuera, capaces de hablar nuestros idiomas e interpretar nuestros gestos, leer nuestras expresiones faciales y predecir nuestras acciones. Entenderán cómo tomamos decisiones, para bien o para mal, lógicas e ilógicas. Después de todo, habremos pasado décadas enseñando a los sistemas de inteligencia artificial cómo nos comportamos los humanos en casi cualquier situación.

Pero profundamente diferente

Pero de todos modos, sus mentes no se parecerán en nada a las nuestras. A nosotros nos parecerán omniscientes, conectados a sensores remotos de todo tipo, en todos los lugares. En mi libro de 2020, Mente de llegadaPinto AGI como “tener mil millones de ojos y oídos”, ya que sus habilidades perceptivas podrían expandirse fácilmente por todo el mundo. Los humanos no podemos imaginar lo que se siente al percibir nuestro mundo de una manera tan amplia y holística, pero de alguna manera asumimos que una mente como esta compartirá nuestra moral, nuestros valores y nuestra sensibilidad. Él no.

Las mentes artificiales serán profundamente diferentes de cualquier cerebro biológico que conozcamos en la Tierra, desde su estructura y funcionalidad básicas hasta su fisiología y psicología en general. Por supuesto, crearemos cuerpos similares a los humanos en los que estas mentes alienígenas puedan habitar, pero serán poco más que robótica para hacernos sentir cómodos en su presencia.

De hecho, los humanos trabajaremos muy duro para que estos extraterrestres se vean y hablen como nosotros, incluso sonrían y rían como nosotros, pero en el fondo no serán como nosotros en absoluto. Lo más probable es que sus cerebros vivan en la nube (total o parcialmente) conectados a rasgos y funciones tanto dentro como fuera de las formas humanoides con las que los personificamos.

Sin embargo, la fachada funcionará: no tememos a estos alienígenas, no de la forma en que temeríamos a las criaturas que se acercan zumbando hacia nosotros en una misteriosa nave espacial. También podemos escuchar un sentido de parentesco, considerándolos como nuestra creación, una manifestación de nuestro propio ingenio. Pero si dejamos de lado esos sentimientos, comenzamos a darnos cuenta de que una inteligencia alienígena nacida aquí es mucho más peligrosa que cualquiera que pueda venir de lejos.

El peligro interior

Después de todo, una mente alienígena construida aquí sabrá todo sobre nosotros desde el momento en que llegue, ya que ha sido diseñada para comprender a los humanos por dentro y por fuera, optimizada para percibir nuestras emociones y anticipar nuestras acciones, predecir nuestros sentimientos, influir en nuestras creencias e influir en nuestras opiniones. . Si las criaturas que zumban hacia nosotros en naves espaciales de plata brillante tuvieran una comprensión tan profunda de nuestros comportamientos y tendencias, estaríamos aterrorizados.

La IA ya puede derrotar a nuestros mejores jugadores en los partidos más difíciles de la Tierra. Pero en realidad, estos sistemas no solo dominan los juegos de ajedrez, póquer y Go, los dominan la juego de humanos, aprendiendo a predecir con precisión nuestras acciones y reacciones, anticipándonos a nuestros errores y explotando nuestras debilidades. Investigadores de todo el mundo ya están desarrollando sistemas de inteligencia artificial para superarnosvencernos y vencernos en maniobras.

¿Hay algo que podamos hacer para protegernos?

Ciertamente, no podemos evitar que la IA se vuelva más poderosa, ya que nunca se ha contenido ninguna innovación. Y aunque algunos están trabajando para implementar salvaguardas, no podemos asumir que será suficiente para eliminar la amenaza. De hecho, una encuesta de Banco de investigación indica que pocos profesionales creen que la industria implementará prácticas significativas de “IA ética” para 2030.

Entonces, ¿cómo podemos prepararnos para la llegada?

El mejor primer paso es darse cuenta de esto. AGI sucederá en las próximas décadas y no será una versión digital de la inteligencia humana. Será un inteligencia extraterrestre extraño y peligroso como si viniera de un planeta lejano.

Urge la ética de la inteligencia artificial

Si enmarcamos el problema de esta manera, podríamos abordarlo con urgencia, presionando para regular los sistemas de IA que monitorean y manipulan al público, percibiendo nuestras emociones y anticipándose a nuestros comportamientos. Dichas tecnologías pueden no parecer una amenaza existencial hoy en día, ya que se desarrollan principalmente para optimizar la efectividad de la publicidad basada en IA, no para facilitar la dominación mundial. Pero eso no disminuye el peligro: las tecnologías de inteligencia artificial diseñadas para analizar los sentimientos humanos e influir en nuestras creencias pueden usarse fácilmente contra nosotros como armas de persuasión masiva.

También deberíamos ser más cautelosos a la hora de automatizar las decisiones humanas. Si bien es innegable que la IA puede ayudar a tomar decisiones efectivas, siempre debemos ceñirnos a ella humanos alrededor. Esto significa usar IA para mejorar la inteligencia humana en lugar de trabajar para reemplazarlo.

Ya sea que nos preparemos o no, las mentes alienígenas se dirigen hacia nosotros y fácilmente podrían convertirse en nuestros rivales, compitiendo por el mismo nicho en la parte superior de la cadena alimenticia intelectual. E incluso si hay un esfuerzo serio en la comunidad de IA para impulsar tecnologías seguras, también hay una falta de urgencia. Esto se debe a que muchos de nosotros creemos erróneamente que una IA consciente creada por la humanidad será de alguna manera una rama del árbol humano, como un descendiente digital que comparte un núcleo muy humano.

Esto es una ilusión. Es más probable que un verdadero AGI sea profundamente diferente de nosotros en casi todos los sentidos. Sí, será extraordinariamente hábil. fingiendo ser humano, pero bajo una fachada amigable con las personas, cada uno será una mente rival que piensa, siente y actúa como ninguna criatura que hayamos conocido en la Tierra. El momento de prepararse es ahora.

Luis Rosenberg, PhD es una tecnología pionera en los campos de VR, AR e AI. Es conocido por desarrollar la primera sistema de realidad aumentada para la Fuerza Aérea de EE. UU. en 1992, por fundar la primera empresa de realidad virtual Immersion Corp (Nasdaq IMMR) en 1993 y fundar la primera empresa AR Outland Research en 2004. Actualmente es el fundador y director ejecutivo de IA unánime.

Tomadores de decisiones de datos

¡Bienvenido a la comunidad VentureBeat!

DataDecisionMakers es el lugar donde los expertos, incluidos los ingenieros de datos, pueden compartir ideas e innovaciones relacionadas con los datos.

Si desea leer ideas de vanguardia e información actualizada, las mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en DataDecisionMakers.

¡Incluso podría considerar contribuir con su propio artículo!

Leer más de DataDecisionMakers