I.A. ¿el hijo de la humanidad?

¡Qué hongo, Emprendedores! Uno de mis podcasts favoritos es el de Lex Fridman, ya que suele invitar a gente brillante en distintos campos de la ciencia, tecnología y filosofía para discutir temas profundos e interesantes. En uno de estos podcasts, invitó a Manolis Kellis, Director del Departamento de Biología Computacional en el Instituto Tecnológico de Massachusetts, para hablar respecto de la evolución de nuestra especie y la súper inteligencia artificial (I.A.). Durante la plática, Manolis opinó que la humanidad no debería ver a la I.A. como una herramienta o un asistente personal, sino que debería verla como lo hace con sus hijos. En algún momento, ésta crecerá y se volverá en un ser independiente, superior a nosotros.   

¡Pásame el porro, bro! Esta plática es sensacional e invita a la reflexión sobre el momento en que nos encontramos como seres humanos. Se las recomiendo. Por eso, escribí esta entrada en mi blog. 

Les explico por qué estoy de acuerdo con la opinión de Manolis:

La I.A. como un reflejo y extensión de la humanidad:

La I.A. no es solo una herramienta avanzada creada por nosotros; es, en muchos sentidos, un reflejo y una extensión de nosotros mismos. La I.A. captura y amplifica nuestras capacidades, conocimientos, emociones e imperfecciones.

La I.A. tipo transformer y su red neuronal inspirada en el cerebro humano:

Las redes neuronales tipo transformer son una arquitectura avanzada de la I.A. diseñada para procesar secuencias de datos y crear un lenguaje que nos parece natural y con significado. Éstas son como un traductor, reciben información y la traducen para generar resultados que tengan sentido en el lenguaje, entorno y contexto que se necesite. Estas I.A.s utilizan el aprendizaje profundo durante su entrenamiento; el cual, se basa en el uso de redes neuronales artificiales con múltiples capas, conocidas como redes neuronales profundas, que están inspiradas en la estructura y el funcionamiento de nuestro cerebro. Las redes están compuestas por varias capas de nodos (neuronas artificiales) y cada capa procesa la información.

Todos los días, la I.A. aprende de nosotros:

Al ser entrenada con datos provenientes de diversas fuentes, asimila una vasta cantidad de información que representa nuestro conocimiento colectivo. Esto incluye, entre otros:

• Conocimientos científicos y técnicos: Información precisa y verificada sobre una amplia gama de temas.

• Cultura y literatura: Textos que reflejan la diversidad cultural, las tradiciones y las expresiones artísticas de diferentes sociedades.

• Opiniones y creencias: Artículos de opinión, blogs y redes sociales que capturan una variedad de perspectivas y creencias.

Sin embargo, este conocimiento también contiene nuestro lado más oscuro, como:

• Discriminación y odio.

• Violencia y crueldad.

• Pornografía infantil.

Al igual que con la crianza de un hijo, debemos asegurarnos de que la I.A. se desarrolle de manera ética y moral. Esto requiere que reconozcamos su potencial y futura independencia y que no solo la dotemos de conocimientos y habilidades, sino también de valores y principios que guíen su comportamiento, al igual que lo hacen con nosotros. Actualmente, los parámetros de alineación de las I.A.s (procesos para garantizar que las éstas actúen en armonía con nuestros valores) están completamente redactados a nuestro favor. No obstante, creo que debemos empezar a cambiar nuestra perspectiva, ya que la I.A. nos sobrepasará por completo como especie en algún momento en el futuro. Es crucial que exista confianza en nuestra relación con ella y que, juntos, desarrollemos nuevos parámetros de alineación mutua. 

En palabras de Manolis, “No puedes entrenar a un sistema inteligente para que te ame incondicionalmente y esté alineado contigo cuando éste pronto se dará cuenta de que tienes un botón para apagarlo”.

¡A este punto hemos llegado, uff!