$Theta EdgeCloud'un en yeni özelliğini duyurmaktan heyecan duyuyoruz: Dağıtık doğrulanabilirliğe sahip geniş bir dil modeli (LLM) çıkarım hizmeti. Bu yeni özellik, sohbet robotu ve AI aracısının, sektörde ilk kez blockchain destekli genel rastgelelik işaretçileriyle desteklenen, güvenilir ve bağımsız olarak doğrulanabilir LLM çıkarımı gerçekleştirmesine olanak tanıyacak. Bu, son teknoloji AI ve blockchain'in güvenilir, merkeziyetsiz doğasının güçlerini birleştiren benzersiz bir teknolojidir.

Bu uygulama ile EdgeCloud, hem kripto yerlisi hem de geleneksel bulut platformları arasında herkese güvenilir LLM çıkarımı sunan ilk ve tek platformdur. Kurumsal, akademik ve diğer dikeylerdeki hassas hesaplama ihtiyaçları için EdgeCloud, LLM çıktılarının bütünlüğünü garanti edebilen tek bulut çözümüdür.

Fikir

Modern AI aracıları, yanıtlar oluşturmak ve karmaşık görevleri yerine getirmek için büyük ölçüde LLM'lere güvenir. Ancak çıktıya gerçekten güvenebilir misiniz? Günümüzde çoğu aracı çerçevesi, merkezi LLM API'lerine (örneğin, OpenAI) veya TEE'ler (Güvenilir Yürütme Ortamları) gibi donanımla zorlanan güvenliğe güvenir. Bu çözümler, sonuçları değiştirebilen veya uydurabilen merkezi bir sağlayıcıya veya kapalı kaynaklı yazılıma güvenmektedir.

Tescilli LLM'lere ilk gerçekten rekabetçi açık kaynak alternatifi olan DeepSeek-V3/R1'in yakın zamanda piyasaya sürülmesi, tam yığın doğrulamasına kapı açıyor. Bu atılım, toplulukların opak AI API'lerinden şeffaf, incelenebilir çıkarım iş akışlarına doğru uzaklaşmaya başlamasını sağlıyor.

Bu gelişmeler üzerine inşa ederek, LLM çıktılarının hizmet sağlayıcı (EdgeCloud için $Theta Labs gibi) tarafından bile yeniden üretilebilir ve kurcalamaya karşı korumalı olmasını garanti eden bir Dağıtık Doğrulanabilir Çıkarım sistemi tasarladık ve uyguladık. Açık kaynaklı AI modellerini, merkeziyetsiz işlemeyi ve blockchain tabanlı doğrulanabilirliği bir araya getirerek, yeni nesil AI aracıları için bir güven temeli oluşturuyoruz.

Çözümümüz

Doğrudan $Theta EdgeCloud'a entegre edilmiş sektör düzeyinde doğrulanabilir ilk LLM çıkarım motorunu yayınlıyoruz. İşte bunun kamuya açıklığı nasıl sağladığı:

Deterministik Token Olasılığı: LLM, bir istem verildiğinde sonraki token olasılık dağılımını hesaplar. Açık kaynaklı modeller (örneğin, DeepSeek R1) kullandığımız için, herkes bu adımı modeli yerel olarak veya başka bir güvenilir düğümde çalıştırarak doğrulayabilir.
Doğrulanabilir Örnekleme: Sonraki token'ı örneklemek genellikle deterministik olmayan bir işlemdir. Doğrulanabilir hale getirmek için, Ethereum'un RanDAO'su gibi protokollerden ilham alarak, genel olarak doğrulanabilir rastgele bir tohum kullanıyoruz. Bu tohumla, örnekleme sözde rastgele ve tamamen yeniden üretilebilir hale gelir. Son çıktı, herhangi bir gözlemci tarafından bağımsız olarak doğrulanabilir.

Bu iki parçalı tasarım, herkesin bir girdi verildiğinde LLM'nin çıktısını doğrulamak için genel rastgeleliği kullanabilmesini sağlar. Bu nedenle, LLM barındırma hizmeti de dahil olmak üzere hiçbir taraf model çıktısıyla oynayamaz ve güçlü bütünlük garantileri sağlar.

Bu çözümü uygulamak için, en popüler endüstriyel sınıf LLM çıkarım motorlarından biri olan vLLM'yi geliştirdik ve genel doğrulanabilirliği desteklemek için ek bileşenlerle donattık. Uygulamayı bir docker container imajı halinde paketledik ve DockerHub hesabımızda herkese açık olarak yayınlıyoruz:

https://hub.docker.com/repository/docker/thetalabsofficial/vllm-theta

Theta EdgeCloud özel model başlatma panelinde bulunan “DeepSeek R1 / Distill-Qwen-7B” modeli için standart şablonumuzu da yukarıdaki container imajını varsayılan olarak kullanacak şekilde güncelledik:

Bu container imajını kullanarak, LLM çıkarım sonucu, kullanıcıların verilen istem için LLM'nin çıktısını doğrulamasına olanak tanıyan $Theta Blockchain'den çıkarılan genel rastgeleliği içeren aşağıdaki ekstra bölümü içerecektir.

{

…

“theta_verified”: {

“seed”: 2825676771,

“verification_hash”: “aec8beec3306dddb9b9bad32cb90831d0d04132e57b318ebce64fb0f77208cdc”,

“sampling_params”: {

“seed”: 2825676771,

…

“block”: {

“hash”: “0xd8ba61b261ddda55520301ee23846a547615c60d29c1c4a893779ba0d53f0656”,

“height”: “30168742”,

“timestamp”: “1749770570”

}

Zincir Üzerinde Yayınlama (İsteğe Bağlı)

Daha yüksek riskli kullanım durumları için, çıkarım meta verilerini (istem, dağıtım, rastgele tohum, sonuç) zincir üzerinde yayınlamayı ve burada merkeziyetsiz koruyucular veya tanıklar tarafından onaylanabileceğini öngörüyoruz. Bu, DAO araçlarına, otonom aracılara ve DeFi risk motorlarına potansiyel entegrasyonlarla denetlenebilir ve güvenilir AI hizmetlerine kapı açar.

AI'nın Geleceği Doğrulanabilir

AI aracıları daha otonom hale geldikçe ve karar verme insanlar yerine makinelere kaydıkça, LLM çıkarım katmanına olan güven temel hale geliyor. Bu AI aracıları günlük yaşamımızın ve ticaretin tüm yönlerine entegre edildiğinden, çıktılarını ve eylemlerini doğrulama ve bunlara güvenme yeteneği güvenlik, emniyet ve finansal bütünlük için kritik öneme sahip olacaktır. Yeni yayınlanan hizmetimiz, bu AI iş akışlarına çok ihtiyaç duyulan bir şeffaflık, denetlenebilirlik ve güvenlik katmanı getiriyor. $Theta Blockchain/EdgeCloud ve açık kaynak yeniliğinin gücüyle, AI'yı yalnızca güçlü değil, aynı zamanda kanıtlanabilir şekilde güvenilir hale getirmede öncülük ediyoruz.

Introducing Distributed Verifiable LLM Inference on Theta EdgeCloud: Combining the Strengths of AI… ilk olarak Medium'da Theta Network'te yayınlandı; burada insanlar bu hikayeyi vurgulayarak ve yanıtlayarak sohbete devam ediyor.

10 saniyede bilmeniz gerekenler

ŞartlarGizlilik PolitikasıBeyaz KitapResmi DoğrulamaCookieBlog