Los investigadores piden que la IA tenga un «botón rojo»
«La Inteligencia Artificial revelándose contra los humanos y provocando casi nuestra extinción» suena a historia de ciencia-ficción, ¿verdad? Para varios investigadores, los avances actuales en este campo podrían desencadenar consecuencias terribles, por ello, han pedido a los desarrolladores de esta IA, que sus creaciones dispongan de un «botón rojo» que nos permita desconectarlo en caso de que algún robot le apetezca saltarse las leyes de la robótica de Asimov.
Si un agente está funcionando en tiempo real bajo supervisión humana, ahora y después puede ser necesario un operador humano presionar el gran botón rojo para impedir que el agente provoque una secuencia nociva de acciones, perjudicial para el agente o para el medio ambiente y el agente en una situación más segura
El crecimiento tan elevado de la presencia de tecnología en la vida de todas las personas han preocupado a muchas grandes mentes, como la de Stephen Hawking, sobre que consecuencias podrían tener para nuestra vida. Muchas organizaciones sin ánimo de lucro, incluso el propio Elon Musk fundó una compañía, Open IA, para estudiar y prevenir el software maligno.
