El modelo grande de IA es la abreviatura de "modelo grande de preentrenamiento de inteligencia artificial", que incluye los dos significados de "preentrenamiento" y "modelo grande". La combinación de los dos produce un nuevo modelo de inteligencia artificial, es decir, el modelo grande. El modelo se entrena en conjuntos de datos a gran escala. Después de completar el entrenamiento previo, no es necesario realizar ajustes finos, o solo se requiere un ajuste fino con una pequeña cantidad de datos y puede admitir directamente varias aplicaciones.

Entre ellos, la formación previa de modelos grandes es como un estudiante universitario o incluso un estudiante de doctorado que conoce todos los conocimientos básicos y ha completado una "educación general". Pero aún necesitan práctica y ajustes después de recibir comentarios para completar mejor las tareas.

Además, los grandes modelos de IA tienen muchas ventajas, como propósito general y replicación a gran escala, y son una dirección importante para realizar AGI (inteligencia general artificial).

Los grandes modelos de IA actuales incluyen procesamiento del lenguaje natural (NLP), visión por computadora (CV), etc., así como grandes modelos multimodales unificados e integrados. Por ejemplo, ChatGPT es una gran innovación en el campo del procesamiento del lenguaje natural. Entiende y habla "lenguaje humano". Supera los modelos anteriores de procesamiento del lenguaje natural y puede manejar diversas tareas de procesamiento del lenguaje natural, incluida la traducción automática, la respuesta a preguntas, la generación de texto, etc.

En pocas palabras, podemos pensar en un modelo grande como una base de conocimiento muy grande, que almacena una gran cantidad de información y conocimiento, lo que puede ayudar a la computadora a comprender y procesar mejor los datos de entrada. Cada neurona y parámetro en el modelo grande forman juntos una poderosa red que puede procesar y transformar de manera eficiente los datos de entrada.

En la actualidad, empresas nacionales como Baidu, Alibaba, Tencent y Huawei han desarrollado grandes modelos de IA. Cada serie de modelos tiene su propio enfoque, y algunos se han lanzado y se han implementado algunas aplicaciones.

Baidu ha estado implementando IA durante muchos años y tiene cierta ventaja de ser el primero en actuar con modelos grandes. Actualmente, el número de empresas que han solicitado la prueba del servicio de llamadas API de Wen Xin Yi Yan ha superado las 65.000. En términos de modelos de grandes industrias, se ha aplicado en casos con State Grid, Shanghai Pudong Development Bank, Geely, TCL, People's Daily Online, Shanghai Dictionary Publishing House, etc.

El modelo grande de Alibaba Tongyi es bueno en operaciones lógicas, capacidades de codificación y procesamiento de voz. El grupo tiene un rico ecosistema y líneas de productos, que se utilizan ampliamente en escenarios de viajes, escenarios de oficina, escenarios de compras y escenarios de vida.

El modelo a gran escala Hunyuan de Tencent se ha utilizado en publicidad y producción de juegos. El grupo está actualmente investigando asistentes inteligentes conversacionales y se espera que optimice la ecología QQ y WeChat después de su puesta en uso.

Huawei coopera estrechamente con el lado B y se espera que las aplicaciones futuras sean principalmente ToB. Además, Huawei tiene abundantes reservas en algoritmos y potencia informática. Por ejemplo: "Pengcheng Cloud Brain II" ganó el ranking global IO500 cinco veces consecutivas y tiene una gran potencia informática de IA y capacidades de rendimiento de datos. La plataforma Huawei Cloud ModelArts tiene la capacidad de procesar datos masivos de manera eficiente, completando 40 TB de procesamiento de datos de texto; 7 días; Datos de Pangu El modelo se lanzó oficialmente en abril de 2021. Los datos de texto de entrenamiento del modelo grande de Pangu actual son de hasta 40 TB (GPT-3 es de 45 TB).

Los modelos grandes suelen constar de cientos de millones a miles de millones de parámetros y deben entrenarse y optimizarse con cantidades masivas de datos para lograr una mayor precisión de predicción y capacidades de generalización. La gente de la industria suele decir que los modelos grandes son producto de la combinación de "grandes datos, gran potencia informática y algoritmos potentes". La clave para el desarrollo de la industria también reside en estos tres puntos.

Grandes datos

Gran potencia informática

algoritmo fuerte

En el futuro, los requisitos tradicionales de "dominar conocimientos generales, capacidad de trabajo de procesos, etc." se convertirán gradualmente en requisitos ocultos de nivel inferior, mientras que los requisitos más explícitos y de alto nivel son la capacidad de "crear valor y utilizar herramientas de manera eficiente para resolver problemas."

Para la gente común, las oportunidades que nos brindan los grandes modelos de IA se pueden dividir aproximadamente en dos categorías: una son oportunidades de inversión a corto plazo y la otra son oportunidades profesionales a largo plazo.

A corto plazo, las empresas con reservas técnicas en el campo de los modelos grandes tendrán más ventajas, como Tencent Holdings, Alibaba, Baidu, etc. Al mismo tiempo, puede prestar atención a objetivos clave que han tomado la delantera en video, marketing, lectura y otras subdivisiones relacionadas, como iFlytek, Danghong Technology, Jebsen Holdings, BlueFocus, Fengyuzhu, Zhejiang Internet, etc.

A largo plazo, tomando prestado lo que dijo Lu Qi en su discurso: "Esta era (la era de los modelos grandes) es muy similar a la era de la fiebre del oro. Si fueras a California a buscar oro en ese momento, muchos La gente moriría, pero los que venden cucharas y palas siempre pueden ganar dinero”.

La innovación empresarial impulsada por la tecnología humana se puede dividir principalmente en tres tipos de oportunidades: tecnología subyacente, satisfacción de necesidades y cambio del mundo.

El primero es el nivel más bajo de tecnología digital. La digitalización es una extensión de los seres humanos. Todos los grandes modelos de IA que se lanzan actualmente, incluido GPT, se basan en la tecnología. Las empresas de chips, incluidas Nvidia y Cambrian, también proporcionan instalaciones de hardware para la tecnología subyacente. Podemos buscar oportunidades que se adapten a nosotros, o trabajar duro para mejorar nuestras habilidades para este puesto, como front-end, back-end, equipos, chips, etc.

El segundo es utilizar la tecnología para resolver necesidades. La demanda se puede dividir en dos direcciones: para C, la IA se puede utilizar para resolver el entretenimiento, el consumo, las redes sociales, el contenido, etc. de todos, y para B, es necesario satisfacer todas las necesidades que puedan ayudar a las personas a vivir una vida mejor; puede ayudar a las empresas a reducir costos y aumentar el efecto de crecimiento. Las oportunidades en esta parte son principalmente contactar personas, comprender mejor las necesidades de los usuarios y brindar mejores productos o experiencias.

El tercero es cambiar el mundo. Por ejemplo, tecnología energética, energía transformada, ciencias de la vida o nuevo espacio. Por ejemplo, Musk está trabajando en robots, interfaces cerebro-computadora, etc., incluso en el Metaverso y la Web 3.

Lu Qi mencionó en su discurso sus puntos de vista sobre los modelos grandes: Las estructuras de modelos más grandes y más complejas significan campos de aplicación más amplios y más oportunidades, pero deben considerarse cuidadosamente, pensar primero y luego utilizar Orientado a la acción.

Las oportunidades para la gente corriente son muy similares al desarrollo de grandes modelos. El desarrollo a largo plazo debe estar impulsado por la tecnología, pero desmantelar, analizar, clasificar y controlar las necesidades durante la implementación lo es todo. ¡Haz lo que puedas y deja el resto para el futuro!