MediaTek se asocia con Alibaba Cloud para chips móviles de modelos grandes

Fuente:www.ichunt.com

Según el Sci-Tech Innovation Board Daily, MediaTek, un fabricante de chips para teléfonos inteligentes, ha implementado con éxito modelos grandes con 1.8 mil millones y 4 mil millones de parámetros en sus chips emblemáticos, como el Dimensity 9300, logrando una profunda adaptación del modelo grande en chips móviles y permitiendo a Tongyi Qianwen ejecutar múltiples rondas de diálogo de IA incluso en situaciones fuera de línea. En el futuro, ambas partes también adaptarán más modelos grandes de diferentes tamaños, incluido uno con 7 mil millones de parámetros, basado en el chip Dimensity.

Alibaba Cloud declaró que trabajará en estrecha colaboración con MediaTek para proporcionar soluciones finales de modelos grandes a los fabricantes mundiales de teléfonos móviles.

Actualmente, MediaTek es la empresa de semiconductores con el mayor volumen de envío de chips para teléfonos inteligentes a nivel mundial. Según los últimos datos de Canalys, envió más de 117 millones de unidades en el cuarto trimestre de 2023, ocupando el primer lugar, seguido de Apple con 78 millones de envíos y Qualcomm con 69 millones de envíos. Tongyi Qianwen es un gran modelo fundamental desarrollado por Alibaba Cloud. Hasta ahora, ha lanzado versiones con hasta 100 mil millones de parámetros y versiones de código abierto con 72 mil millones, 14 mil millones, 7 mil millones, 4 mil millones, 1,8 mil millones y 500 millones de parámetros, así como grandes modelos multimodales como el modelo de comprensión visual Qwen-VL y el modelo de audio grande Qwen-Audio.

Durante el MWC2024, MediaTek mostró varias aplicaciones de inteligencia artificial, incluidos los chips Dimensity 9300 y 8300. Se entiende que el chip Dimensity 9300 ya admitió la aplicación del modelo grande de 7 mil millones de parámetros de Meta Llama 2 en el extranjero, y se implementó en teléfonos de la serie vivo X100 en China con un modelo de lenguaje grande de 7 mil millones de parámetros en el lado final, y también ha ejecutado con éxito un modelo de 13 mil millones de parámetros en un entorno experimental del lado final.

La colaboración entre MediaTek y Alibaba Cloud marca la primera vez que el modelo grande de Tongyi logra una adaptación de hardware y software a nivel de chip. Xu Dong, director comercial del Tongyi Lab de Alibaba, explicó: "La IA final es uno de los escenarios importantes para la aplicación de modelos grandes, pero enfrenta muchos desafíos, como dificultades en la adaptación de hardware y software y entornos de desarrollo incompletos. Alibaba Cloud y MediaTek han superado una serie de desafíos técnicos y de ingeniería relacionados con la adaptación subyacente y el desarrollo de nivel superior, integrando verdaderamente el modelo grande en el chip móvil y explorando un nuevo modelo de implementación de Model-on-Chip para IA final".

Además de MediaTek, Qualcomm también promueve activamente la implementación de modelos grandes en dispositivos móviles. El 18 de marzo, Qualcomm anunció el lanzamiento de la plataforma móvil Snapdragon 8s de tercera generación, que admite modelos de lenguajes grandes con hasta 10 mil millones de parámetros y también puede admitir modelos de IA generativa multimodal, incluidos Baichuan-7B, Gemini Nano, Llama 2. y Zhipu ChatGLM de empresas como Baidu Xiriver, Google y META. Se informa que Xiaomi Civi 4 Pro será el primero en estar equipado con la plataforma móvil Snapdragon 8s.

Un analista de la industria de la electrónica de consumo afirmó que la colaboración entre Alibaba Cloud y MediaTek significa que los fabricantes nacionales de teléfonos móviles ahora tienen una alternativa a Baidu.

Según lo entendido por el periodista, Honor y Samsung han anunciado previamente colaboraciones con Baidu Wenxin Yiyan. Por ejemplo, el último teléfono insignia de Samsung, la serie Galaxy S24, integra múltiples capacidades del modelo grande de Wenxin, incluidas llamadas, traducción y resumen inteligente. Además, una fuente reveló que Apple está actualmente en contacto con Baidu, con la esperanza de utilizar la tecnología de inteligencia artificial de Baidu, y ya se han llevado a cabo conversaciones preliminares entre las dos partes.

Lin Dahua, un destacado científico del Laboratorio de Inteligencia Artificial de Shanghai, afirmó que con el crecimiento exponencial de los grandes modelos basados ​​en la nube, el extremo está a punto de entrar en un período dorado de crecimiento. La colaboración en la nube se convertirá en una tendencia importante en el futuro, donde la computación en la nube establecerá el techo y la computación en el extremo respaldará la adopción por parte de los usuarios a gran escala.

Según las predicciones de la consultora IDC, el volumen de envío de smartphones en el mercado chino alcanzará los 277 millones de unidades en 2024, con una tasa de crecimiento interanual del 2,3%. Entre ellos, el volumen de envío de teléfonos con IA alcanzará los 36,6 millones, con una tasa de crecimiento interanual superior a los tres dígitos. La aplicación de grandes modelos de IA en teléfonos móviles se generalizará.