Accenture ile Gömülü Değerlendirme Konusunda İş Birliği
Anthropic, frontier AI'ın bağımsız değerlendirilmesi konusunda Accenture ile ortaklık yapıyor; bu, CEO'nun açıklamasında yapılan Anthropic içerisinde değerlendiricileri yerleştirme taahhüdünün bir parçası. Anthropic ve Accenture'ın her biri, önümüzdeki beş yıl içinde bu alanda kapasite oluşturmak için en az 1 milyar dolar yatırım yapmasını bekliyor.
Frontier AI'ın bağımsız değerlendirilmesi konusunda Accenture ile ortaklık yapıyoruz. Bu, CEO'muzun "We Must Pace the Frontier" başlıklı yazısında yapılan Anthropic içerisinde değerlendiricileri yerleştirme taahhüdü doğrultusunda önemli bir adımdır.
Ortaklık, Accenture'ın uzman yapay zekâ işletmesi olan Faculty tarafından yönetilecek ve modellerin değerlendirilmesi ve red-teaming, uyum değerlendirmeleri yürütülmesi ve model güvenliklerinin test edilmesini içerecektir. Accenture, işletmelerin ve hükümetlerin yapay zekâyı birçok endüstride dağıtmasına yardımcı olur. İşletmelerin yapay zekâyı pratik olarak nasıl kullandığına dair anlayışları, güvenlik yaklaşımlarını bilgilendirir ve bu perspektifi modellerimizi değerlendirirken getireceklerdir.
Anthropicve Accenture'ın her biri, önümüzdeki beş yıl içinde bu alanda kapasite oluşturmak için en az 1 milyar dolar yatırım yapmasını bekliyor.
Gömülü değerlendirme yeni bir konudur ve bunun nasıl işleyeceğine ilişkin birçok detay hâlâ çalışılmaktadır. Günümüzün dış değerlendiricilerinden farklı olarak, gömülü değerlendiriciler yapay zekâ şirketleri içinde, bir çalışanın erişimine benzer şekilde çalışacaklardır. Bu erişim, modellerin eğitim sırasında şekil almasını izlemelerine, bu modellerin nasıl inşa edilip dağıtılacağını belirleyen kararları takip etmelerine ve çalışanlarla doğrudan konuşmalarına olanak tanır. Bu bakış açısından, gömülü değerlendiriciler bir şirketin nasıl faaliyet gösterdiğini değerlendirebilir, güvenlik taahhütlerini yerine getirdiğini doğrulayabilir ve kör noktaları belirleyebilir. Ayrıca olayları rapor edebilir ve halkoyuna faydalar ve riskler hakkında daha bilgili bir hesap verebilirler.
Açık olmak gerekirse, bağımsız gömülü değerlendiriciler sorumluluğumuzu azaltmaz, ancak onu daha doğrulanabilir hale getirebilir. Modellerimizin güvenliği bizim sorumluluğumuz olmaya devam etmektedir.
Gömülü değerlendiricilerin hangi bilgilere erişim sağlaması gerektiğine veya bulduklarını nasıl raporlaması gerektiğine dair henüz standart yoktur. Ayrıca bağımsız değerlendirmefonu için yerleşik bir sistem da yoktur. Uzun vadede, fon kaynaklarının Haziran ayında yayınladığımız Advanced AI Framework'te çağrı yaptığımız gibi birleştirilmiş veya devlet kaynaklarından gelmesi gerektiğini düşünüyoruz. Bunların hiçbiri bugün mevcut olmadığından, farklı değerlendiricilerle farklı finansman düzenlemeleri altında çalışmayı planlıyoruz.
Bu çalışmanın önemi ve aciliyeti göz önüne alındığında, Anthropic Accenture'ın çalışmasını doğrudan finanse edecektir. Ayrıca METR ve diğer kâr amacı gütmeyen değerlendiricilerle gömülü değerlendirmenin öğelerini kendi finansmanlarını kullanarak pilotlamak için diyalog halindeyiz. Sonuçta, frontier AI'ın ortak standartlarla çalışan bir değerlendirici ekosisteminin olması gerektiğine inanıyoruz.
Frontier laboratuvarlarının aynı anda birden fazla kuruluşla çalışmasını bekliyoruz. Ortaklığımız münhasır değildir; Anthropic, önümüzdeki haftalarda duyurulacak diğer değerlendiricilerle çalışacak ve Accenture, benzer kapasitelerde diğer yapay zekâ geliştiricileriyle çalışacaktır.
Frontier modelleri eğitmeye ve yayınlamaya devam edeceğiz ve bunu yaparken yanımızda bağımsız değerlendiricilerin çalışmasını istiyoruz. Bu erken çabaları şimdi paylaşıyoruz, böylece insanlar ve diğer yapay zekâ geliştiricileri sürecimizi görebilirler. Alanın olgunlaşması duyarken yaklaşımımızın evrimleşeceğini bekliyoruz ve çalışmamız başladığında ve ek değerlendiricileri dahil ettikçe daha fazla bilgi paylaşacağız.