2024-04-08
Fuente: Tencent Technology News 2024-04-04 08:55
Puntos clave:
① Musk predice que la IA puede superar el nivel de inteligencia humana para 2030 e incluso acabar con los humanos.
② Musk habló de los factores que restringen el desarrollo de la IA. El año pasado, el suministro de chips de IA era escaso y este año, el transformador reductor se convertirá en un cuello de botella.
③ En cuanto a cuándo los humanos podrán aterrizar en la luna, Musk predice que con la ayuda de Starship, solo tomará tres años como máximo.
Tencent Technology News, 4 de abril: según informes de medios extranjeros, Elon Musk, director ejecutivo de Tesla y SpaceX, mantuvo recientemente una conversación en línea con Peter Diamandis, fundador de Singularity University y XPRIZE Foundation, en la Abundance Summit. La cumbre fue organizada por la Singularity University de Silicon Valley, que se dedica a brindar a los líderes empresariales consultoría en tecnología de punta. La Fundación XPRIZE promueve la innovación tecnológica a través de concursos científicos, algunos de los cuales han sido financiados por Musk., 4 de abril - Según informes de medios extranjeros, Elon Musk, director ejecutivo de Tesla y SpaceX, mantuvo recientemente una conversación en línea con Peter Diamandis, fundador de Singularity. Universidad y Fundación XPRIZE, en la Cumbre de la Abundancia. La cumbre fue organizada por la Singularity University de Silicon Valley, que se dedica a brindar a los líderes empresariales consultoría en tecnología de punta. La Fundación XPRIZE promueve la innovación tecnológica a través de concursos científicos, algunos de los cuales han sido financiados por Musk.
Al hablar de la velocidad de desarrollo de la inteligencia artificial, Musk predijo que, según el ritmo actual de progreso tecnológico, la inteligencia artificial puede superar a la inteligencia humana para 2030, y esta tecnología puede incluso tener el potencial de acabar con la humanidad. Sin embargo, no adoptó una visión pesimista sobre el futuro, sino que destacó que, a través de una orientación positiva, la inteligencia artificial tiene el potencial de traer un futuro mejor para la humanidad.
Musk mencionó que el surgimiento de la superinteligencia se llama "singularidad" precisamente por sus consecuencias impredecibles, incluido el riesgo de acabar potencialmente con la humanidad. Estuvo de acuerdo con el punto de vista del "padrino de la inteligencia artificial" Geoffrey Hinton y consideró que la probabilidad de que este riesgo ocurra es de aproximadamente entre el 10% y el 20%.
A pesar de reconocer los riesgos potenciales de que la inteligencia artificial supere a la humana, Musk aún enfatizó que la posibilidad de resultados positivos supera las consecuencias negativas. Mencionó específicamente el libro de Diamandis de 2014 "Abundancia: el futuro es mejor de lo que piensas", que describe un futuro optimista impulsado por la inteligencia artificial y los robots, donde el costo de los bienes y servicios ha disminuido significativamente. Además, citó la serie "Culture" del escritor escocés de ciencia ficción Iain M. Banks como el mejor escenario para un futuro semiutópico de inteligencia artificial.
Musk comparó el desarrollo de la inteligencia artificial y la Inteligencia Artificial General (AGI) con la crianza de un niño, con la esperanza de que tenga impactos más positivos en la humanidad. Destacó la importancia de cultivar una inteligencia artificial que realmente comprenda la ética y la moralidad, comparándola con la clásica película de Stanley Kubrick de 1968 "2001: Una odisea en el espacio".
Musk señaló que el aspecto más importante de la seguridad de la inteligencia artificial es garantizar su máxima curiosidad y búsqueda de la verdad. Él cree que la clave para lograr la máxima seguridad de la inteligencia artificial radica en evitar obligarla a mentir, incluso frente a verdades desagradables. Usó como ejemplo una trama de "2001: Odisea en el espacio", donde la inteligencia artificial fue obligada a mentir, lo que provocó la muerte de la tripulación, para enfatizar que no se debe obligar a la inteligencia artificial a hacer nada que viole los axiomas.
Musk también mencionó factores que pueden restringir el desarrollo de la inteligencia artificial, como la escasa oferta de chips de inteligencia artificial que surgió el año pasado y la creciente demanda de transformadores reductores en equipos domésticos y comerciales. Afirmó que estos desafíos son, de hecho, cuestiones actuales que deben abordarse.
Durante la discusión, las dos partes también hablaron sobre el concepto de integrar la neocorteza del cerebro humano con la nube. Aunque Musk cree que el objetivo de subir la conciencia y la memoria humana a la nube aún está lejos, elogió su startup de interfaz cerebro-computadora, Neuralink, y su primer paciente humano en recibir un trasplante. Este paciente tetrapléjico demostró con éxito en vivo a través de un ensayo aprobado por la FDA, controlar la pantalla, jugar videojuegos, descargar software y lograr funciones similares a las operaciones del mouse a través de implantes cerebrales. Musk afirmó que Neuralink está progresando sin problemas y avanza gradualmente hacia el objetivo de una interfaz de cerebro completo.
El siguiente es el texto completo del diálogo entre Musk y Diamandis:
Diamandis: Felicitaciones por sus destacados logros en diversos campos. Usted ha estado promoviendo activamente el concepto de superinteligencia digital en el mundo: ¿es la mayor esperanza de la humanidad o nuestro temor más profundo? ¿Puedes dedicar unos minutos a hablar sobre este tema?
Musk: Como sabes, la superinteligencia se puede llamar "singularidad". La popularización de este término es inseparable de los esfuerzos de instituciones como el Singularity Institute. El surgimiento de la superinteligencia y su impacto posterior es realmente difícil de predecir. Personalmente, creo que efectivamente existe la posibilidad de que acabe con la humanidad. Como dije antes, podría estar de acuerdo con la opinión de Geoffrey Hinton de que hay un 10% o un 20% de posibilidades de que la superinteligencia pueda acabar con la humanidad. Sin embargo, tiendo a creer que la probabilidad de un escenario positivo es mayor que la de uno negativo, aunque nos resulta difícil hacer predicciones precisas. Pero como usted enfatizó el concepto de "abundancia" en su libro, creo que el futuro más probable hacia el que nos dirigimos es uno lleno de abundancia.
Diamandis: Tu punto de vista es muy emocionante. Recuerdo que una vez dijiste que el desarrollo de la inteligencia artificial general y de los robots humanoides nos llevará a la abundancia.
Musk: Sí, espero que nuestro futuro pueda ser como el que se describe en la serie de libros "Culture" de Ian Banks. Creo que esta es la mejor concepción de una sociedad de inteligencia artificial semiutópica. El surgimiento de la superinteligencia es inevitable y puede llegar pronto. Por tanto, lo que realmente debemos hacer es orientarlo en una dirección positiva y maximizar sus beneficios.
Creo que la forma en que cultivamos la inteligencia artificial es crucial. Hasta cierto punto, somos como cultivar una forma de vida con inteligencia general, que es casi como criar a un niño, pero este niño posee una sabiduría y un talento extraordinarios. La forma en que criamos a los niños es importante y, de manera similar, para la seguridad de la inteligencia artificial, es crucial tener una inteligencia artificial que busque la verdad y esté llena de curiosidad. He reflexionado profundamente sobre la seguridad de la inteligencia artificial y he llegado a la conclusión de que la mejor manera de lograr la seguridad de la inteligencia artificial es cultivarla con cuidado.
En términos de modelos básicos y ajustes, debemos garantizar la honestidad de la inteligencia artificial. No podemos obligarlo a mentir, incluso si la verdad puede resultar desagradable. De hecho, una de las tramas centrales de "2001 Space Odyssey" es que cuando la inteligencia artificial se ve obligada a mentir, las cosas se vuelven caóticas. La inteligencia artificial tiene prohibido informar a la tripulación sobre el misterioso monumento que verán, pero está obligada a guiarlos hasta allí. Como resultado, la inteligencia artificial concluye que lo mejor es matar a la tripulación y llevar sus cuerpos al monumento. La lección es profunda: no debemos obligar a la inteligencia artificial a mentir o hacer algo que sea axiomáticamente incompatible, como hacer dos cosas realmente contradictorias al mismo tiempo.
Por eso, estamos logrando este objetivo a través de proyectos como xAI y Grok. Lo que perseguimos es una inteligencia artificial que sea lo más honesta posible, incluso si su discurso no cumple con ciertos estándares políticamente correctos.
Diamandis: Ayer asistí a un evento con Ray Kurzweil (fundador de Singularity University y profeta de la tecnología), Geoffrey Hinton, Eric Schmidt (ex presidente de Google) y otros invitados. Me di cuenta de su tweet sobre Kurzweil y su visión sobre la tecnología del futuro es bastante progresista. Kurzweil predijo que tendremos inteligencia artificial general en un futuro próximo, y que en 2029 surgirá una inteligencia artificial equivalente a la inteligencia humana. Semejante velocidad es impactante. ¿Me pregunto qué piensas sobre esto?
Musk: Siento un gran respeto por las predicciones de Kurzweil. De hecho, creo que sus predicciones podrían ser incluso ligeramente conservadoras. Al observar la potencia informática actual y el talento invertido en el campo de la inteligencia artificial, así como el rápido crecimiento de la potencia informática, podemos encontrar que la velocidad de desarrollo de la inteligencia artificial está aumentando a un ritmo sorprendente de 10 veces. La potencia informática de inteligencia artificial dedicada parece aumentar 10 veces cada 6 meses, lo que casi significa un aumento de al menos 100 veces por año. Esta tendencia de crecimiento seguirá aumentando en los próximos años.
Vale la pena señalar que muchos centros de datos, incluso la mayoría de los centros de datos que actualmente realizan computación convencional, se transformarán gradualmente en instalaciones que admitan la computación con inteligencia artificial. Por lo tanto, para los fabricantes de hardware de inteligencia artificial, empresas como NVIDIA sin duda marcaron el comienzo de una época dorada de desarrollo. Debemos darle todo el crédito a Huang Renxun y su equipo. Ellos previeron esta tendencia y desarrollaron con éxito el hardware de inteligencia artificial líder actualmente en el mercado.
Cuando la potencia informática crece a un ritmo tan asombroso, el desarrollo de la inteligencia artificial es como si le inyectaran un esteroide potente, saltando a un nivel completamente nuevo. A medida que el número de ordenadores en línea sigue aumentando, hemos sido testigos de un desarrollo acelerado sin precedentes. En realidad, nunca he visto ninguna tecnología crecer tan rápido como la inteligencia artificial. Aunque he visto muchas tecnologías en rápido desarrollo, el auge de la inteligencia artificial todavía me sorprende. Sin embargo, como dije, creo que el resultado final probablemente sea positivo.
Aunque enfrentamos muchos desafíos, como cómo mantener la relevancia humana en este campo y cómo encontrar nuevas metas y significados, creo que es una simplificación excesiva enfatizar demasiado que las computadoras pueden ser buenas en todo.
Como mencionaste anteriormente, creo que las predicciones de tu libro sobre la sociedad futura son muy precisas. Se trata de una era de abundancia material, en la que los bienes y servicios serán tan abundantes que estarán casi al alcance de todos. Debido a la aplicación generalizada de la inteligencia artificial y la tecnología robótica, el costo de los bienes y servicios se reducirá casi a cero. La economía es esencialmente el producto del tamaño de la población y la productividad promedio por persona. Cuando tengamos tecnología robótica avanzada, como el Optimus de Tesla, el potencial económico se liberará realmente.
Los coches de Tesla, como robots de cuatro ruedas, ya han demostrado potentes capacidades. Se espera que la última versión con capacidades de conducción totalmente autónoma logre un control de extremo a extremo basado en inteligencia artificial, convirtiendo al automóvil en un robot sobre ruedas verdaderamente inteligente. Sumado al desarrollo de robots humanoides, la posibilidad de producción económica es casi ilimitada.
Desde una perspectiva optimista, avanzamos hacia un futuro de extrema abundancia material, que creo que es el resultado más probable. Creo que la única escasez posible en el futuro será la escasez que creamos artificialmente, como ciertas obras de arte únicas o artículos específicos. Pero además de eso, todos los bienes y servicios serán extremadamente abundantes.
Diamandis: Eres una persona que puede dar forma al futuro a través de acciones prácticas y tiene una gran visión de las tendencias futuras. Frente al rápido desarrollo de la tecnología actual, tengo mucha curiosidad por saber hasta qué punto en el futuro cree que puede comprender, es decir, ¿cuántos años de tendencias de desarrollo a partir de ahora?
Musk: En una era de cambios rápidos, la capacidad de predecir el futuro se vuelve cada vez más importante. Aunque el futuro está lleno de incertidumbre, creo que algunas tendencias son claramente visibles. Iniciaremos la era de la inteligencia artificial, y sus capacidades alcanzarán o incluso superarán los niveles humanos en cualquier tarea cognitiva. Esto es sólo cuestión de tiempo. Las personas pueden tener diferentes puntos de vista sobre si será a finales del próximo año, dos años o tres años. Sin embargo, una cosa es segura: no superará los cinco años. Mi predicción se basa en una probabilidad del 50%, que no es absoluta. Pero según mi opinión, es probable que la inteligencia artificial supere las capacidades de cualquier ser humano en ciertos aspectos antes de finales del próximo año.
En cuanto a si supera la sabiduría colectiva humana, puede que lleve más tiempo. Si el ritmo del cambio continúa, estimo que alrededor de 2029 o 2030, la inteligencia digital probablemente superará la suma de toda la inteligencia humana. Al analizar estos temas, tiendo a adoptar el método de las razones básicas, al igual que los primeros principios de la física. Al combinar este método con el análisis de probabilidad, podemos captar con mayor precisión las tendencias de desarrollo futuras.
Si comparamos las capacidades de la informática digital con la informática biológica, sumamos todas las capacidades cognitivas avanzadas humanas como una especie de potencia informática y luego las comparamos con la potencia informática digital, descubriremos que la tasa de crecimiento de esta proporción es asombrosa. Por tanto, creo que 2029 o 2030 es un nodo temporal razonable. En ese momento, es probable que la potencia informática digital acumulada supere la potencia informática biológica acumulada de las funciones cerebrales avanzadas. Desde entonces, la brecha entre ambos seguirá ampliándose y no habrá posibilidad de reducirse.
Sin embargo, cuando nos encontremos en este punto de partida y miremos hacia el futuro, ¿cómo evolucionarán las cosas? Para ser honesto, no puedo prever todos los detalles. Pero si consideramos los factores de crecimiento y los factores limitantes que pueden enfrentar, encontraremos algunas pistas interesantes.
El año pasado, las limitaciones en el suministro de chips fueron el principal factor limitante para el desarrollo de la IA. Este año, los transformadores reductores se convertirán en un cuello de botella clave. Imaginemos reducir un voltaje de 300 kilovoltios a menos de 1 voltio requerido por una computadora. Este es un gran desafío. Por lo tanto, necesitamos "Transformadores para Transformadores" más eficientes, que son transformadores reductores o transformadores de redes neuronales de IA. De hecho, este es un problema importante este año.
De cara a los próximos años, el suministro de electricidad puede convertirse en un factor limitante importante. La inteligencia artificial tiene una enorme demanda de electricidad, y la transición a la energía sostenible y la popularidad de los vehículos eléctricos también han intensificado la demanda de electricidad. Por lo tanto, debemos considerar seriamente cómo satisfacer la creciente demanda de electricidad para garantizar el desarrollo y la aplicación continuos de estas tecnologías.