Por Rafael Julivert Ramírez
Aquí una opinión sobre la supuesta amenaza existencial de la IA, tema tan debatido y vigente en nuestro mundo de la innovación tecnológica continua.
La pregunta, que hace unos años parecía ciencia ficción, hoy forma parte de un debate real. Científicos y filósofos advierten que la inteligencia artificial (IA) podría superar nuestra capacidad de control. Otros creen que esa visión apocalíptica exagera los riesgos y distrae de los problemas inmediatos.
El origen del temor
La preocupación surge del posible desarrollo de una Inteligencia Artificial General (AGI) o superinteligencia: una máquina capaz de aprender y razonar mejor que cualquier ser humano. Si un sistema así no compartiera nuestros valores, podría actuar en contra de nuestros intereses sin mala intención, simplemente optimizando sus propios objetivos. Una IA encargada de “preservar la Tierra” podría, en teoría, concluir que eliminar a los humanos es la mejor forma de lograrlo.
Centros como el Center for AI Safety señalan varios riesgos: el uso militar o político de la IA, errores en sistemas autónomos o la delegación excesiva de decisiones a las máquinas. Algunos investigadores advierten de un proceso más lento pero igual de preocupante: la despotenciación gradual. No haría falta una rebelión de robots; bastaría con que la humanidad dejara de tener la última palabra en decisiones cruciales.
Los que piden moderación
Otros expertos, como los que escriben en Scientific American o el Bulletin of the Atomic Scientists, sostienen que los riesgos existenciales son remotos. Los modelos actuales no son autónomos ni conscientes, y dependen de supervisión humana constante. A su juicio, los peligros reales son los de hoy: sesgos algorítmicos, manipulación informativa y concentración de poder en unas pocas empresas tecnológicas.
Entre el riesgo y la oportunidad
La IA representa una revolución diferente a todas las anteriores porque automatiza el pensamiento. No transforma solo el entorno, sino también la mente. Por eso la pregunta no es únicamente técnica, sino ética: ¿qué queda de lo humano cuando las máquinas piensan por nosotros?
Más que una destrucción repentina, lo más probable es un deterioro progresivo: pérdida de empleos, desigualdades crecientes, errores en sistemas críticos y erosión de la autonomía personal. Sería una forma de extinción simbólica: seguiríamos existiendo, pero sin control sobre nuestro destino.
¿Qué hacer?
Existe consenso en la necesidad de precaución. Se proponen cinco vías principales:
- Regulación internacional para frenar la carrera tecnológica descontrolada.
- Investigación en alineamiento para garantizar que las IA mantengan valores humanos.
- Transparencia y auditorías de los sistemas más poderosos.
- Educación tecnológica que prepare a la ciudadanía.
- Ética aplicada en el diseño desde el inicio.
Conclusión
No hay pruebas de que la IA vaya a destruir a la humanidad, pero tampoco garantías de que no lo haga. El riesgo más real es que nos acostumbremos a delegar tanto en las máquinas que dejemos de pensar. La inteligencia artificial no decidirá nuestro destino: lo hará la forma en que la humanidad elija convivir con ella. En última instancia, el futuro dependerá menos de la inteligencia de las máquinas que de la sabiduría de quienes las crean y las usan.
(*) Fuente: Texto republicado desde Masticadores, página nacida en Cataluña, que Jr Crivello dirige y con numerosos colaboradores en el mundo .
La mirada de Linceo 