AWS re:Invent konferansında bulut devi, iletişim merkezleri için üretken bir yapay zeka sohbet robotu olan Amazon Q’yu tanıttı. AWS ayrıca daha düşük maliyet ve enerji kullanımıyla daha hızlı işlem yapabilen Graviton4 ve Trainium2 çiplerini de tanıttı.
AWS, yıllık geliştirici konferansında, iletişim merkezi temsilcilerinin daha iyi bir müşteri deneyimi sunmasına yardımcı olmayı amaçlayan yapay zekalı bir sohbet robotunu tanıttı.
Amazon Q adı verilen sohbet robotu, “daha hızlı ve daha doğru müşteri desteği” için bir müşteriyle gerçek zamanlı olarak etkileşime giren temsilcilere yanıtlar ve eylemler önerecek. Bir müşterinin sorununu daha hızlı ve kesin bir şekilde çözmek, sorunu bir yöneticiye iletme ihtiyacını azaltacaktır.
Q, AWS’nin bulut tabanlı iletişim merkezi olan Amazon Connect üzerinden kullanılabiliyor. Şirket, teknik bilgisi olmayan iş liderlerinin “dakikalar içinde” bir bulut iletişim merkezi kurarak Q’ya erişebileceğini söyledi.
AWS ayrıca, müşteri temsilcileriyle müşteri etkileşimlerinin özetlerini oluşturmak için üretken yapay zeka kullanan Amazon Contact Lens’i de duyurdu. Genellikle iletişim merkezi süpervizörleri, müşteri temsilcilerinin bir müşterinin sorunu hakkında oluşturdukları notlara güvenirler. Ayrıca saatlerce süren müşteri çağrılarını dinliyor ya da büyük hacimli transkriptleri okuyorlar – böylece iletişim merkezi hizmetlerini iyileştirmek için temsilci-müşteri etkileşimlerinden öğrenebiliyorlar. AWS, Contact Lens ile karşılaşmanın kısa özetlerini alarak zamandan tasarruf ettiklerini söyledi.
AWS ayrıca yöneticilerin self-servis sohbet botları ve etkileşimli sesli yanıt (IVR) sistemleri oluşturmalarını basitleştiren Amazon Lex’i de tanıttı – temelde bir self-servis ses ağacı.
Şirketler artık ne istediklerini sade bir dille anlatarak sohbet botları ve IVR’ler oluşturabiliyor. Örnek istemler arasında, “Müşteri adı ve iletişim bilgileri, seyahat tarihleri, oda tipi ve ödeme ayrıntılarını kullanarak otel rezervasyonlarını işleyecek bir bot oluşturun” yer alıyor.
Bu botlar, müşterilere önceden programlanmış yanıtlar vermek yerine, üretken yapay zeka sayesinde daha dinamik yanıtlar verebilecek ve istekleri daha iyi anlayabilecek. Örneğin, bir müşteri Cumartesi ve Pazar günleri için bir otel odası istiyorsa, chatbot bunu iki gece olarak yorumlayacaktır.
Bu chatbotlar, müşterinin istediği yanıtı bulmak için bir şirketin bilgi tabanına bakacak şekilde de ayarlanabilir.
AWS Uygulamaları Amazon Connect Başkan Yardımcısı Pasquale DeMaio yaptığı açıklamada, “İletişim merkezi sektörü, müşteri hizmetleri temsilcilerine, iletişim merkezi süpervizörlerine ve iletişim merkezi yöneticilerine kişiselleştirilmiş müşteri deneyimlerini daha da etkili bir şekilde sunmanın yeni yollarını sunan üretken yapay zeka tarafından temelden dönüştürülmeye hazırlanıyor” dedi.
Yükseltilmiş çipler
AWS re:Invent’te bulut bilişim devi, yapay zeka iş yüklerini daha iyi işlemek için iki yükseltilmiş yongayı da tanıttı.
AWS, makine öğrenimi eğitimi ve üretken yapay zeka uygulamaları da dahil olmak üzere çeşitli iş yükleri için AWS tarafından tasarlanan Graviton ve Trainium çip ailelerinin yeni neslini tanıttı.
Şirket, Graviton4’ün “en iyi fiyat performansı ve enerji verimliliği” sunmak için mevcut Graviton3 yongalarına göre %30’a kadar daha iyi işlem performansı, %50 daha fazla çekirdek ve %75 daha fazla bellek bant genişliği sunduğunu söyledi.
Trainium2 ise ilk nesil çiplere kıyasla dört kata kadar daha hızlı eğitim sunacak şekilde tasarlandı ve 100.000 çipe kadar EC2 UltraCluster’larda konuşlandırılabiliyor, böylece temel modelleri ve büyük dil modellerini “çok daha kısa sürede” eğitmek mümkün olurken enerji verimliliğini de iki katına çıkarıyor.
Graviton4, müşterilerin daha fazla veri işlemesine, iş yüklerini ölçeklendirmesine ve maliyetleri düşürmesine olanak tanıyan bellek optimizasyonlu Amazon EC2 R8g örneklerinde kullanılabilecek. Graviton4 destekli R8g örnekleri önizleme aşamasında kullanıma sunuldu ve önümüzdeki birkaç ay içinde genel kullanıma açılacak.
Trainium2 çipi, trilyonlarca parametreye kadar temel ve büyük dil modellerini işlemek için üretilmiştir. AWS, ilk nesle kıyasla dört kata kadar daha hızlı eğitim performansı, üç kat daha fazla bellek kapasitesi ve iki kata kadar enerji verimliliği sunduğunu söyledi. Tek bir örnekte 16 çip bulunan Amazon EC2 Trn2 örneklerinde mevcut olacak. Şirketten yapılan açıklamada, “Trn2 örnekleri, müşterilerin AWS Elastic Fabric Adapter (EFA) petabit ölçekli ağ ile birbirine bağlanan yeni nesil EC2 UltraCluster’larda 100.000 Trainium2 çipine kadar ölçeklenmesini, 65 exaflop’a kadar bilgi işlem sunmasını ve müşterilere süper bilgisayar sınıfı performansa talep üzerine erişim sağlamasını amaçlamaktadır” denildi.
AWS’ye göre bu, müşterilerin 300 milyar parametreli büyük bir dil modelini aylar yerine haftalar içinde eğitebileceği anlamına geliyor.
Bedrock’taki yeni özellikler
AWS ayrıca, kullanıcılara tek bir API aracılığıyla önde gelen büyük dil ve temel modellerine erişim sağlayan tam olarak yönetilen platformu Bedrock için yeni özellikleri de tanıttı.
Bedrock, müşterilerin üretken yapay zeka uygulamalarında sorumlu yapay zeka politikalarına uygun koruma önlemleri uygulamalarına olanak tanıyacak. Özelleştirilmiş kullanım durumları sunmak için özel verileri kullanan üretken yapay zeka uygulamaları oluşturmak için bilgi tabanlarına sahip olacak. Bedrock ayrıca, satış siparişleri almak gibi bir şirketin kendi sistemlerini ve verilerini kullanarak çok adımlı görevleri yerine getirebilen bot aracılara da sahip olacak. Son olarak, Bedrock artık Cohere Command Lite, Meta Llama 2 ve Amazon Titan Text modellerine ince ayar yapma desteği sunuyor. Anthropic Claude desteği de yakında geliyor.
Bilgi tabanları ve aracılar artık genel olarak kullanılabilirken, korkuluk özelliği önizleme aşamasındadır.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn ve Instagram‘da takip edin.
