El director ejecutivo de Tesla, así como el ex director ejecutivo de Twitter, se han expresado bastante en lo que respecta al desarrollo de la IA. En una cumbre reciente en Londres, el experto en negocios advierte sobre los riesgos de la IA. Según Elon Musk, la tecnología generalmente tiene el potencial de controlar a los humanos. Por lo tanto, tenemos que tener cuidado con lo lejos que hemos elegido para progresar con la IA. Específicamente, Elon Musk afirma que la IA podría controlar a los humanos en el futuro. Aunque probablemente no destruirá el mundo, es una posibilidad y el mundo no debería simplemente ignorarla. Musk también afirmó que también era posible que la IA se hiciera cargo de «toda la seguridad humana», convirtiéndose así en una especie de «súper niñera».
Elon Musk dijo
“La inteligencia artificial avanzada corre el riesgo de eliminar o limitar el desarrollo humano. La superinteligencia es un «arma de doble filo». Si tienes un genio que puede darte cualquier cosa, eso es un peligro.
Algunas de las empresas de Elon Musk están trabajando actualmente en IA, pero él siempre ha desconfiado de la tecnología. En marzo pasado, firmó una carta abierta pidiendo una moratoria en el desarrollo de IA avanzada. En este momento, Tesla, el principal negocio de Elon Musk, utiliza mucha IA en sus productos. De hecho, después del vínculo Microsoft/OpenAI y del acuerdo Google/DeepMind, debería ser el tercero.
Elon Musk agrega
“Creo que debería haber una tercera empresa compitiendo. OpenAI y Microsoft parecen funcionar bien juntos, por lo que X.AI (la nueva compañía de IA de Musk) y Twitter y Tesla también deberían funcionar bien en el futuro”.
Eric Schmidt también emite una advertencia similar
El ex director ejecutivo de Google, Eric Schmidt, también desconfía del desarrollo profundo de la IA. Afirma que las consecuencias de desarrollar una IA deshonesta podrían ser graves para la humanidad.
Gizchina Noticias de la semana
Según Schmidt, a medida que la IA se desarrolle en los próximos años, representa un «riesgo existencial» para la humanidad y tiene el potencial de causar «muchas, muchas, muchas, muchas personas heridas o muertas».
Hablando en la Cumbre del Consejo de CEO del Wall Street Journal, Schmidt dijo
«Hay escenarios, no hoy, sino en un futuro razonable, en los que estos sistemas podrán encontrar exploits de día cero en problemas cibernéticos o descubrir nuevos tipos de biología… Eso es ficción hoy, pero es probable que su razonamiento sea cierto… Y cuando eso suceda, queremos estar preparados para saber cómo asegurarnos de que estas cosas no sean mal utilizadas por personas malas.
La IA es más compleja de lo que pensamos
Schmidt también dijo que los sistemas de IA se están volviendo más complicados de lo que las personas pueden comprender por completo, y las empresas continúan introduciendo nuevos productos sin comprender el alcance completo de las amenazas de IA. Piensa que eso podría ser un desafío en sí mismo y advirtió que debemos tener cuidado al presentar nuevos productos..
Schmidt no es la única figura tecnológica que advierte sobre los riesgos de la IA. Otros incluyen sam altmanDirector de IA abiertaque admitió tener miedo a la IA, y Elon Musk, quien firmó una carta abierta pidiendo una pausa de seis meses en la investigación de IA. La carta advierte sobre «efectos potencialmente catastróficos» en la sociedad si no se establece una gobernanza adecuada.
Schmidt también expresó su preocupación por el uso de la IA por parte de China, particularmente en su ejército, y dijo que Estados Unidos necesitaba rediseñar su ejército para responder a la amenaza..
Ultimas palabras
Eric Schmidt advirtió que la IA representa un riesgo existencial para la humanidad y que los gobiernos deben saber cómo garantizar que no se utilice indebidamente. Expresó su preocupación por la velocidad de la investigación en esta área y la posibilidad de que tales sistemas se vuelvan más complejos de lo que la gente puede comprender por completo. Schmidt no apoya una pausa en su desarrollo, ya que cree que beneficiaría a otros países, particularmente a China.
