Conform Go4IT: ByteDance, compania-mamă a platformei TikTok, se pregătește să lanseze un model de inteligență artificială de anvergură, menit să rivalizeze cu cele mai avansate creații ale liderilor din industrie, precum modelul „Mythos” al companiei americane Anthropic. Informația, publicată de Financial Times pe baza unor surse apropiate subiectului, indică o ambiție fermă a gigantului chinez de a concura la cel mai înalt nivel în domeniul IA.
Ambiții revoluționare în cursa modelelor IA
Potrivit informațiilor, ByteDance a demarat procesul de pre-antrenare pentru un nou model de inteligență artificială ce va dispune de 10 trilioane de parametri. Această cifră, de aproximativ trei ori mai mare decât modelul Kimi K3 al companiei chineze Moonshot AI (care deține recordul actual de 2,8 trilioane de parametri pentru cel mai mare model din China), subliniază scara proiectului. Parametrii, prin ajustarea lor automată în timpul antrenamentului, acționează ca niște mecanisme fine de reglaj, permițând modelului să proceseze informația și să genereze rezultate. Un număr mai mare de parametri se traduce, în general, printr-o capacitate sporită de a gestiona sarcini complexe de gândire artificială.
Procesul inițial de antrenare a unui astfel de model durează, de regulă, între trei și șase luni, urmând ca apoi să fie supus unei etape de ajustare fină înainte de lansarea oficială. Deși Anthropic nu oferă detalii oficiale despre dimensiunea modelelor sale, estimările din industrie plasează cel mai avansat model al companiei, Mythos 5, în jurul a 8 trilioane de parametri, în timp ce Fable 5 ar avea aproximativ 5 trilioane. Numărul de parametri stabilește, într-adevăr, capacitatea de bază a unui model, însă performanța sa reală depinde și de alți factori cruciali, precum calitatea datelor folosite pentru antrenament și metodele de instruire.
Diferențieri strategice pe piața de IA
Eforturile ByteDance de a dezvolta unul dintre cele mai puternice modele de inteligență artificială din lume reflectă aspirația companiilor chineze de a nu doar recupera decalajul față de liderii americani, ci chiar de a-i depăși în domeniul IA de ultimă generație. În ultimele săptămâni, modele dezvoltate de companii precum Moonshot și Alibaba au demonstrat performanțe notabile în teste comparative, apropiindu-se rapid de nivelul modelelor occidentale. Modelul Mythos 5 al Anthropic, cel mai performant, este momentan accesibil doar unui număr restrâns de organizații, după o scurtă interdicție impusă din motive de securitate în luna iunie.
Spre deosebire de multe alte companii chineze de IA care promovează modele open-source, ByteDance optează pentru modele închise și investește masiv în infrastructura proprie. Modelul „Seedance”, dedicat generării video, este deja considerat unul dintre cele mai avansate la nivel global, iar „Doubao”, adresat publicului larg, a devenit cel mai popular model de IA din China, atrăgând 324 de milioane de utilizatori lunari.
Independență tehnologică și provocări
Potrivit surselor, ByteDance a transmis echipei sale instrucțiuni clare de a evita utilizarea metodelor de „distilare” bazate pe modele dezvoltate de alte companii. Această decizie subliniază dorința de a construi soluții proprii, independente de avansurile IA din Statele Unite. Cu toate acestea, analiștii atrag atenția că această abordare, aplicată pe parcursul ultimului an, ar fi putut încetini ritmul de dezvoltare al modelelor ByteDance, în comparație cu concurenții săi. Distilarea modelelor este un proces prin care un model mare și complex este „comprimat” într-unul mai mic și mai rapid, prin antrenarea celui de-al doilea pentru a emula performanța primului. Echipa Seed, responsabilă de dezvoltarea modelelor IA la ByteDance și condusă de Wu Yonghui, fost cercetător la Google DeepMind, numără aproximativ 2.000 de membri la nivel global, incluzând cercetători, ingineri și specialiști în etichetarea datelor. Fondatorul ByteDance, Zhang Yiming, ar fi încurajat angajații să se concentreze pe obținerea unor „capacități de model de clasă mondială” pe termen lung, fără a se lăsa descurajați de posibilele eșecuri pe termen scurt.
Sursa: Go4IT
