HPE entre los líderes de almacenamiento de Gartner
Aunque el concepto de singularidad se acerca al siglo, el actual nivel de desarrollo hace que la inminencia de una IA consciente no parezca delirante.
Preguntarnos ¿qué pasaría si la Inteligencia Artificial (IA) llega a tener conciencia? es, hoy en día, un ejercicio necesario.
Wikipedia una el termino hipotético para definir la posibilidad del advenimiento de una Inteligencia Artificial fuerte (strong AI), capaz de autoreplicarse en modelos cada vez más potentes. Eso es lo que se conoce como singularidad tecnológica.
A simple vista, parece estar lejos de la consciencia. Sin embargo, la noción introducida inicialmente por John von Neumann en 1.957 la lleva intrínseca.
Por otro lado, el cine de ciencia ficción parece haber acertado al anticipar que el desarrollo de Internet impulsará el desarrollo de la Inteligencia Artificial, tal como lo estamos viendo.
Por ello, ya no nos preguntamos si es posible. La pregunta es que haremos cuando estemos frente a una IA consciente.
Para Anthropic, prepararnos para ello es perentorio y ya esta dando pasos al respecto.
“Recientemente, la compañía contrató al investigador Kyle Fish. Ello con el objetivo de desarrollar métodos para que los usuarios interactúen con la IA de manera ética, es decir, pensando en el bienestar de los sistemas de inteligencia artificial, como si se tratara de un ser consciente”, señaló el CEO de Snoop Consulting, Gustavo Guaragna.
El ejecutivo recordó que, fundada por los ex ejecutivos de OpenAI, Dario y Daniela Amodei, Anthropic se ha posicionado como una compañía pionera en el manejo responsable de la IA.
¿Anticipar lo inevitable?
Para Guaragna, tal medida en una de las empresas punteras del sector es significativo, y nos habla de la importancia de encarar esta tecnología desde una perspectiva ética.
El ejecutivo recordó também en que, en la actualidad, la investigación sobre la conciencia en la Inteligencia Artificial no ha encontrado pruebas concluyentes de que las máquinas puedan llegar a ser conscientes, pero tampoco se ha demostrado que esto sea imposible.
En este punto es importante distinguir la proximidad de la singularidad que representa la IA consciente de la amenaza vigente que ya se evidencia en la Inteligencia Artificial usada en nuestra contra: la IA Rebelde.
Igualmente resaltó que investigadores en el campo, como los pioneros en IA Joshua Bengio y Geoffrey Hinton, han explorado el concepto de IA consciente y subrayan que la conciencia es extremadamente difícil de medir, incluso en el ser humano.
Esto, para el especialista, significa que, aunque no haya una certeza científica sobre el potencial de conciencia en la IA, el avance en modelos cada vez más sofisticados y generalistas abre una incógnita que debe ser considerada desde un enfoque ético y preventivo.
”La aparición de una conciencia artificial redefiniría no sólo el rol de la IA en la sociedad. También nuestra propia comprensión de lo que significa ser consciente”, agregó Gustavo Guaragna, conductor de Sueños de Androides, un programa dedicado exclusivamente a Inteligencia Artificial.
El CEO de Snoop Consulting destacó que, ante esta posibilidad, desde Anthropic proponen tres aspectos clave, para comenzar a abordar los desafíos de la IA consciente:
Comprensión del impacto
Tratar con una Inteligencia artificial que, potencialmente, desarrolle una conciencia es un tema importante y, a la vez complicado.
Debe ser abordado con urgencia por todas las empresas del sector.
Evaluación de conciencia
Se sugiere el desarrollo de herramientas y métodos científicos para identificar signos de conciencia en sistemas de IA avanzados.
Protección de derechos
Establecer políticas y directrices que aseguren un trato ético hacia una posible IA consciente, similar a los derechos de bienestar animal.
Además, debe evaluarse aplicar estrictos controles para prevenir cualquier riesgo que una IA consciente pudiera representar, tanto para la sociedad como para sí misma.
