Manténgase informado de actualizaciones gratuitas
Solo regístrese en Inteligencia artificial Myft Digest – Entregado directamente en su caja de recepción.
Dos temas dominaron la reunión anual del Foro Económico Mundial en Davos la semana pasada: Donald Trump e inteligencia artificial. De los dos, este último fue el más interesante y casi seguro el más importante. Una gran atención en la discusión se dedicó a Deepseek, la sorpresa china advenedora. Sin embargo, simplemente hemos aprendido que el conocimiento se está difundiendo: ningún país monopolizará estas nuevas tecnologías. Sorprendió los mercados. Con nuevas tecnologías, estas «sorpresas» no son sorprendentes. Pero eso no cambia la gran pregunta, lo que significa el avance de la inteligencia de la máquina para todos nosotros.
Los seres humanos son sociales e inteligentes. Esta combinación es su «aplicación asesina». Esto les permitió dominar el planeta. La inteligencia humana inventó tecnologías para fines generales que han dado forma al mundo, Desde el fuego doméstico hasta la creación de computadoras. Pero, con las computadoras que piensan, podría cambiar. Blaise PascalEl matemático y filósofo francés del siglo XVII dijo que «El hombre es solo una caña, lo más débil en la naturaleza, pero es una caña de pensar.«¿Esta singularidad está llegando a su fin?»
En Davos, asistí a dos discusiones fascinantes sobre las recompensas y riesgos de los avances en la IA. Uno era una entrevista de Sir Demis HassabisCofundador de Google Deepmind y receptor conjunto del Premio Nobel de Química, por Roula Khalaf, editora en jefe del Ft. El otro era un entrevista de Dario amodeiFundador y CEO de Anthrope y autor de Máquinas de gracia amorosapor Cama Zanny MintonEditor -en -Chief of the Economist.
La entrevista con Hassabis destacó el reciente progreso de nuestra capacidad para hacer un análisis científico, en particular en biología. Más de 2 millones de investigadores usan AlfafoldÉl dijo, el programa DeepMind se ha desarrollado. “Hemos doblado todas las proteínas conocidas de la ciencia, cada 200 mn. . . [T]La regla básica es que se necesita un estudiante de doctorado para encontrar la estructura de una proteína. Por lo tanto, 200 mn habrían tomado mil millones de años de doctorado. Y acabamos de dar todo esto al mundo, gratis. Esto, desarrolló, es «ciencia a velocidad digital». La posibilidad que se ha abierto ante nosotros es, por lo tanto, una gran aceleración del progreso médico. De hecho, podríamos tener los próximos 50 a 100 años de progreso normal en cinco a diez años.
En general, argumentó, podemos considerar la IA como «un país de genios en un centro de datosEl que los chinos podrían haber hecho aún más barato que antes. Sin embargo, estos son realmente genios? Mi prueba sería saber si, dado el conocimiento de toda la física hasta 1906, pero nada después, la IA podría producir la teoría general de la relatividad de Einstein.
Parece plausible que el impacto de tal capacidad de resolución de problemas, ya sea «genio» o no, sea notable. Podría, entre otras cosas, acelerar las mejoras del conocimiento y el crecimiento de la productividad y la propagación de la prosperidad. Ambos son deseables. En las últimas décadas, el aumento en la «productividad total de los factores», la mejor medida del progreso técnico, ha sido modesto. Además, los enormes números siempre viven en la pobreza extrema y, deprimente, El progreso se ha ralentizado.
Sin embargo, también es obvio que el progreso acelerado también podría crear dificultades. La estructura del mercado laboral puede cambiar masivamente, por ejemplo, con, en este caso, una fuerte caída en la demanda de trabajadores cuyos activos se realizan información, pero en gran medida rutinaria. Los pronósticos de tales efectos varían. Un 2023 papel Por Erik Brynjolfsson y Gabriel Unger señala que, como era cierto a lo largo de la revolución informática, los efectos sobre la productividad podrían ser modestos. Sin embargo, este tiempo podría ser diferente, con la productividad de la flecha, pero los cambios económicos y sociales en consecuencia y perjudiciales. Una vez más, según la reacción de la sociedad, la IA exitosa podría conducir a un «tecnosfeudalismo», con concentraciones de riqueza aún más importantes. La invención de una gran cantidad de nuevos tratamientos podría aumentar considerablemente los costos de atención médica, así como los costos de gestión de la vida muy extensos, incluso si están en equilibrio. ¿Están las personas listas para vivir junto a sus tatarabuelos? Entonces, aparentemente, las cosas buenas podrían crear desafíos reales.
Más allá de eso, el desarrollo de la IA prevista crea grandes riesgos. ¿Cómo controla su uso de actores deshonestos, incluidos estados hostiles, terroristas y asesinos en masa? ¿Qué juicios morales hacen en la guerra? ¿Cómo controla el uso de IA en vigilancia? «Gran Hermano» ¿Nos mirará para siempre? Nuevamente, ¿qué hacemos con la fabricación de noticias falsas y falsas? ¿Cómo sobrevive a la libertad todas estas amenazas?
Hassabis es claro que necesitamos límites globales efectivos en el uso de AI. En un momento de cooperación internacional rota y desprecio por la idea misma de un «orden internacional basado en reglas», ¿trabajarán juntos China y los Estados Unidos en seguridad de IA? Esto parece poco probable, especialmente porque tienen diferentes opiniones sobre cómo se deben usar estas tecnologías.
En 2015, escribí un escéptico en general artículo En el impacto (modesto) probablemente en la productividad de las nuevas tecnologías. Los próximos años finalmente podrían demostrarme lo contrario. Sin embargo, también noté que si preferimos acercarnos «La singularidad– Inteligencia artificial más allá de toda la inteligencia humana: todo debe cambiar.
Una de las grandes ideas de Frank Herbert Duna La serie es que en el pasado lejano (nuestro futuro) la humanidad ha llevado a una yihad exitosa contra las máquinas que piensan. Posteriormente, los humanos tuvieron que convertirse en sobrehumanos. Un personaje principal explicar Que «los humanos habían puesto estas máquinas para usurpar nuestro sentido de belleza, nuestro ser necesario, de los cuales hacemos juicios vivos. Naturalmente, las máquinas fueron destruidas. »»
Esta preocupación podría ser sabia. Pero soy realista: AI está fuera de la caja de Pandora.
Sigue a Martin Wolf con myft y Gorjeo