OVHcloud, yapay zeka modellerinin uygulamalara ve iş hizmetlerine entegrasyonunu kolaylaştırmak için tasarlanmış yeni sunucusuz bulut çözümü AI Endpoints'in resmi lansmanını duyurdu. Yapay zekanın kullanımını demokratikleştirmek için tasarlanan platform, geniş bir profesyonel kullanım alanını kapsayan 40'tan fazla açık kaynak model kütüphanesi sunuyor. AI Endpoints, geliştiricilerin dil işleme (LLM), kod üretimi, ses tanıma veya görüntü üretimi gibi modellerine altyapıyı yönetmek zorunda kalmadan veya ileri düzeyde makine öğrenimi uzmanlığına sahip olmadan erişmelerini sağlıyor. Çözüm, OVHcloud'un egemen bulut ortamına dayanıyor ve Avrupa'daki verilerin güvenli bir şekilde barındırılmasını ve Avrupa dışı düzenlemelere karşı korunmasını garanti ediyor.
Platform, geliştiricilerin modellerin entegrasyonundan önce kapasitelerini test etmeleri için bir test ortamı (sandbox) sunuyor ve mevcut geliştirme ortamlarına entegrasyonu kolaylaştıran API'ler sağlıyor. Hedeflenen kullanım alanları arasında müşteri hizmetleri otomasyonu, kodlama desteği, yapılandırılmamış belgelerden metin çıkarımı veya ses-metin ve metin-ses dönüşümü yer alıyor.
OVHcloud, açık ağırlıklarla sağlanan modellerle yaklaşımının şeffaflığını vurguluyor ve bu modellerin organizasyonların ihtiyaçlarına göre üçüncü parti altyapılar veya yerel olarak konuşlandırılabileceğini belirtiyor.
Ön izleme sonrası çözüm, kullanıcı geri bildirimleri dikkate alınarak yeni modellerle kademeli olarak zenginleştirildi (kararlı model desteği,
API anahtarlarının incelikli yönetimi...).
Şu anda, AI Endpoints, son teknoloji 40'tan fazla açık kaynak yapay zeka modeli sunuyor, bunlar arasında:
LLM : Llama 3.3 70B, Mixtral 8x7B, ...
SLM : Mistral Nemo, Llama 3.1 8B, ...
Kod : Qwen 2.5 Coder 32B, Codestral Mamba
Multimodal : Qwen 2.5 VL 72B, ...
Görüntü Üretimi : SDXL
Ses ve Konuşma : ASR (speech-to-text), TTS (text-to-speech)
Platform, modele ve dakikada tüketilen token sayısına dayalı kullanım bazlı bir fiyatlandırma ile talep üzerine çıkarım yapma imkanı sağlıyor. Dunkerque yakınlarındaki Gravelines veri merkezinde barındırılan ve çevresel etkiyi en aza indirmek için su soğutma sistemi kullanan platform, Avrupa, Kanada ve Asya-Pasifik bölgesinde kullanıma sunulmuş durumda.
Cet article publirédactionnel est publié dans le cadre d'une collaboration commerciale
Daha iyi anlamak
OVHcloud'un AI Endpoints platformu tarafından kullanılan isteğe bağlı çıkarım ne anlama geliyor?
İsteğe bağlı çıkarım, yalnızca bir istek yapıldığında verileri işleyerek kaynakların esnek ve optimize edilmiş bir şekilde kullanılmasına olanak tanır, bu da maliyetleri azaltabilir ve enerji verimliliğini artırabilir.
OVHcloud'un egemen bulutu, Avrupa veri koruma düzenlemelerine nasıl uyum sağlar?
OVHcloud'un egemen bulutu, tüm verilerin Avrupa'da kalmasını sağlayarak, GDPR standartlarına uygun olarak hareket eder ve Avrupalı olmayan düzenlemeler tarafından yetkisiz erişime karşı koruma sağlayarak veri gizliliğini ve egemenliğini güvence altına alır.
