În scurt : Cohere a lansat Command A, un model de IA eficient și competitiv pentru întreprinderi, capabil să funcționeze cu doar două GPU-uri, oferind performanțe superioare în mai multe domenii și o adaptabilitate remarcabilă la contexte locale.
Unicornul canadian Cohere a dezvăluit recent „Command A”, cea mai recentă versiune a modelului său de top. Special conceput, la fel ca predecesorii săi, pentru a răspunde nevoilor companiilor, acest LLM cu 111 miliarde de parametri, care combină performanța și eficiența energetică, concurează cu modele de top precum GPT-4o și DeepSeek-V3.
Unul dintre principalele avantaje ale Command A pentru companii este amprenta sa materială minimă. În timp ce majoritatea modelelor comparabile necesită până la 32 GPU-uri, Command A funcționează eficient cu doar două GPU-uri A100 sau H100, ceea ce se traduce printr-o reducere semnificativă a costurilor și latenței, precum și o viteză de execuție mai mare. Pe lângă o generare mai rapidă a primului token, acesta poate genera până la 156 de tokeni/s, adică un debit de 1,75 ori mai mare decât GPT-4o și de 2,4 ori mai mare decât DeepSeek-V3.
Performanțele Command A
Cohere a evaluat performanțele Command A în comparație cu cele ale GPT-4o și DeepSeek-V3 pe benchmark-uri academice: MMLU (cunoștințe generale), MATH, IFEval (urmărirea instrucțiunilor), teste de agenți inteligenți (BFCL, Taubench) și benchmark-uri de codare (MBPPPlus, SQL, RepoQA).
Capacitățile sale în urmărirea instrucțiunilor, codare, în special în SQL, și pe sarcini agentice depășesc pe cele ale concurenților săi.
În teste de evaluare umană, Command A, care acoperă 23 dintre limbile principale, a depășit concurenții săi în mai multe limbi, în special în arabă dialectală, unde s-a dovedit a fi mai coerent și mai precis decât GPT-4o și DeepSeek-V3. Această capacitate de a se adapta la contexte locale reprezintă un atu strategic pentru companiile care operează la nivel internațional.
Capacități optimizate pentru întreprinderi
Spre deosebire de predecesorul său, care suporta o lungime de context de 128.000 de tokeni, Command A este dotat cu o lungime de context de 256 tokeni, ceea ce îl face apt pentru a analiza documente de afaceri lungi. Integrează funcționalități avansate, cum ar fi generarea augmentată prin recuperare (RAG) cu citări verificabile și utilizarea de instrumente agentice securizate.
Este deosebit de eficient pentru:
- Analiza și extragerea informațiilor din rapoarte financiare voluminoase;
- Gestionarea politicilor HR conform specificităților locale;
- Verificarea și interpretarea reglementărilor juridice complexe.
Datorită unei integrări fluide cu North, platforma de agenți IA a Cohere, Command A permite companiilor să dezvolte soluții de IA personalizate, menținând în același timp un nivel ridicat de securitate și conformitate.
Disponibilitate și prețuri
Deja disponibil pe platforma Cohere, cu suport viitor de la principalii furnizori de cloud, Command A este oferit la un cost de 2,50 $ pentru 1 milion de tokeni de intrare și 10,00 $ pentru 1 milion de tokeni de ieșire. Este, de asemenea, accesibil în scopuri de cercetare pe Hugging Face.
Pentru a înțelege mai bine
Ce este un LLM și de ce este important pentru afaceri?
Un LLM (Model Lingvistic Mare) este un model de inteligență artificială care folosește cantități mari de date pentru a înțelege, genera și manipula limbajul natural. Pentru afaceri, acest lucru poate transforma operațiunile prin eficientizarea serviciului clienți, analizarea datelor complexe și îmbunătățirea comunicării și luării deciziilor.
Cum îmbunătățește Generarea Augmentată prin Recuperare (RAG) capacitățile unui LLM precum Command A?
RAG, sau Generarea Augmentată prin Recuperare, permite unui LLM să-și îmbogățească răspunsurile cu date externe actuale și relevante. Acest lucru se realizează consultând baze de date sau documente externe, verificând informațiile furnizate și crescând acuratețea și relevanța rezultatelor generate.