Nvidia’nın NIM’i, yapay zeka modelleri, API’ler veya kütüphaneler gibi bir yapay zeka uygulamasının temel bileşenlerini tek bir pakette (set) sunuyor.
Nvidia, GTC’de NIM mikro hizmetlerini duyurdu. NIM, kolay dağıtım için optimize edilmiş çıkarım motorlarını, endüstri standardı API’leri ve AI modellerini kapsayıcılarda paketleyecek. NIM; SAP, Adobe, Cadence, CrowdStrike, Getty Images, ServiceNow ve Shutterstock gibi büyük yazılım satıcıları ve BOX, Cohesity, Cloudera, Databricks, Datastax, Dropbox, NetApp ve Snowflake gibi veri platformu satıcıları tarafından destekleniyor. NIM ayrıca bugün GTC’de 5.0 sürümü yayınlanan Nvidia Enterprise AI Software Suite’in bir parçası.
Özellikle NIM, Nvidia GPU’lar üzerinde çalışan açık veya tescilli modeller içerebilen mikro hizmetlerle dolu bir paket (set). Set, bulutta Kubernetes dağıtımı, Linux sunucusu veya hizmet olarak sunucusuz işlev modeli gibi bir sette çalışabileceği herhangi bir yere konuşlandırılabilir. NIM’ler ayrıca kurumlara yönelik Retrieval Augmented Generation (RAG) gibi özellikleri de destekleyecek. Apache Lucene, Datastax, Faiss, Kinetica, Milvus, Redis ve Weaviate gibi vektör veritabanı satıcıları NIM’leri destekliyor.
Nvidia, NIM’lerin yapay zeka uygulamalarını dağıtma süresini haftalardan dakikalara indirmek için tasarlandığını duyurdu. Kullanıcılar veri odaklı uygulamalarını kendi altyapılarında güvenli bir şekilde barındırabilmeli ve gerektiğinde ölçeklendirebiliyor.
Geliştiriciler yeni mikro hizmetleri yeni ai.nvidia.com platformunda ücretsiz olarak deneyebilir ve NIM mikro hizmetlerinin ticari dağıtımı Nvidia sertifikalı sistemlerde ve bulut sağlayıcılarında Nvidia AI Enterprise 5.0 aracılığıyla kullanılabilir. Şirket, Nvidia donanımında kullanılan yapay zeka modellerini optimize etmek de dahil olmak üzere NIM mikro hizmetlerini sürekli olarak geliştirmeyi planlıyor.
SAP ve biyoteknoloji için NIM mikro hizmetleri
SAP, iş uygulamalarında üretken yapay zeka kullanımını hızlandırmak için yeni NIM mikro hizmetlerini kullanan ilk büyük şirketlerden biri. Amaç, müşterilerin SAP bulut çözümlerindeki iş verilerinden üretken yapay zeka ile yararlanmalarını sağlamak.
İşbirliği, SAP’nin Joule Copilot’unda ve SAP’nin bulut çözümü ve uygulama portföyünde ölçeklenebiliyor, işe özgü üretken yapay zeka yetenekleri de dahil olmak üzere SAP Business AI’nin geliştirilmesine ve dağıtımına odaklanacak.
Nvidia ayrıca ilaç keşfi ve tıbbi teknolojiyi geliştirmek için tasarlanmış geniş bir mikro hizmet setini de tanıttı. Bulut üzerinden kullanılabilen iki düzineden fazla hizmet, özellikle sağlık hizmetleri için optimize edilmiş yapay zeka modellerine ve araçlarına dayanıyor. Bunlar arasında gelişmiş görüntüleme, konuşma tanıma ve üretken biyolojik ve kimyasal tahmin ve simülasyon yer alıyor.
Nvidia’nın BioNeMo’su da DNA dizilerini analiz etmek, ilaçların neden olduğu protein yapısındaki değişiklikleri tahmin etmek ve RNA’ya dayalı hücre işlevini belirlemek için yeni modellerle güncelleniyor. Modeller artık Nvidia’nın NIM’i aracılığıyla mikro hizmetler olarak da kullanılabiliyor.
BioNeMo modelleri, sağlık ve yaşam bilimleri için özel olarak tasarlanmış bir hizmet olan AWS HealthOmics aracılığıyla da yakında kullanıma sunulacak.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
