Tổng Vốn Hóa Thị Trường:$00
API
VI
Tối

Tìm kiếmSSI/Mag7/Meme/ETF/Coin/Chỉ số/Biểu đồ/Nghiên cứu
00:00 / 00:00
Xem
    Thị trường
    Chỉ số
    Thông Tin
    TokenBar®
    Phân tích
    Vĩ mô
    Danh sách theo dõi
Chia sẻ

Giới thiệu Suy luận LLM có thể xác minh phân tán trên Theta EdgeCloud: Kết hợp sức mạnh của AI…

#Layer1
$THETA
Theta Network - Medium
1KTừ ngữ
01/07/2025

Giới thiệu Suy luận LLM có thể xác minh phân tán trên $Theta EdgeCloud: Kết hợp sức mạnh của AI và Blockchain

Chúng tôi rất vui mừng được công bố tính năng mới nhất của $Theta EdgeCloud: Dịch vụ suy luận mô hình ngôn ngữ lớn (LLM) với khả năng xác minh phân tán. Tính năng mới này sẽ cho phép chatbot và AI agent thực hiện suy luận LLM đáng tin cậy và có thể xác minh độc lập, được hỗ trợ bởi các đèn hiệu ngẫu nhiên công khai dựa trên blockchain, lần đầu tiên trong ngành. Đây là một công nghệ độc đáo kết hợp sức mạnh của AI tiên tiến và bản chất phi tập trung, không cần tin cậy của blockchain.

Với việc triển khai này, EdgeCloud là nền tảng đầu tiên và duy nhất cung cấp suy luận LLM không cần tin cậy cho tất cả mọi người, giữa cả nền tảng gốc tiền điện tử và nền tảng đám mây truyền thống. Đối với các nhu cầu tính toán nhạy cảm trong doanh nghiệp, học viện và các lĩnh vực dọc khác, EdgeCloud là giải pháp đám mây duy nhất có thể đảm bảo tính toàn vẹn của đầu ra LLM.

Ý tưởng

Các AI agent hiện đại dựa nhiều vào LLM để tạo ra các phản hồi và thực hiện các tác vụ phức tạp. Nhưng bạn có thực sự tin tưởng vào đầu ra không? Ngày nay, hầu hết các framework agent đều dựa vào các API LLM tập trung (ví dụ: OpenAI) hoặc bảo mật được thực thi bằng phần cứng như TEE (Trusted Execution Environments). Các giải pháp này đặt niềm tin vào một nhà cung cấp tập trung hoặc phần mềm nguồn đóng, những thứ có thể thay đổi hoặc tạo ra kết quả.

Việc phát hành gần đây của DeepSeek-V3/R1, giải pháp thay thế mã nguồn mở thực sự cạnh tranh đầu tiên cho LLM độc quyền, mở ra cánh cửa cho việc xác minh full-stack. Bước đột phá này cho phép các cộng đồng bắt đầu chuyển từ các API AI непрозрачный sang các quy trình làm việc suy luận minh bạch, có thể kiểm tra.

Dựa trên những tiến bộ này, chúng tôi đã thiết kế và triển khai một hệ thống Suy luận có thể xác minh phân tán đảm bảo rằng đầu ra LLM có thể tái tạo và chống giả mạo, ngay cả bởi nhà cung cấp dịch vụ (chẳng hạn như $Theta Labs cho EdgeCloud). Bằng cách kết hợp các mô hình AI nguồn mở, tính toán phi tập trung và khả năng xác minh dựa trên blockchain, chúng tôi đang xây dựng một nền tảng tin cậy cho thế hệ AI agent tiếp theo.

Giải pháp của chúng tôi

Chúng tôi đang phát hành công cụ suy luận LLM có thể xác minh cấp độ công nghiệp đầu tiên, được tích hợp trực tiếp vào $Theta EdgeCloud. Đây là cách nó đạt được tính khả dụng công khai:

  • Xác suất Token tất định: LLM tính toán phân phối xác suất token tiếp theo cho trước một prompt. Vì chúng tôi đang sử dụng các mô hình nguồn mở (ví dụ: DeepSeek R1), nên bất kỳ ai cũng có thể xác minh bước này bằng cách chạy mô hình cục bộ hoặc trên một node đáng tin cậy khác.
  • Lấy mẫu có thể xác minh: Lấy mẫu token tiếp theo thường là một quy trình không tất định. Để làm cho nó có thể xác minh được, chúng tôi sử dụng một seed ngẫu nhiên có thể xác minh công khai, lấy cảm hứng từ các giao thức như RanDAO của Ethereum. Với seed này, việc lấy mẫu trở nên giả ngẫu nhiên và hoàn toàn có thể tái tạo. Đầu ra cuối cùng có thể được xác thực độc lập bởi bất kỳ người quan sát nào.

Thiết kế hai phần này đảm bảo rằng bất kỳ ai cũng có thể sử dụng tính ngẫu nhiên công khai để xác minh đầu ra của LLM cho trước một đầu vào. Do đó, không bên nào, kể cả dịch vụ lưu trữ LLM, có thể can thiệp vào đầu ra của mô hình, cung cấp các đảm bảo tính toàn vẹn mạnh mẽ.

Để triển khai giải pháp này, chúng tôi đã tăng cường vLLM, một trong những công cụ suy luận LLM cấp độ công nghiệp phổ biến nhất và trang bị cho nó các thành phần bổ sung để hỗ trợ khả năng xác minh công khai. Chúng tôi đã đóng gói việc triển khai vào một image container docker và phát hành nó công khai trên tài khoản DockerHub của chúng tôi:

https://hub.docker.com/repository/docker/thetalabsofficial/vllm-theta

Chúng tôi cũng đã cập nhật template tiêu chuẩn của mình cho mô hình “DeepSeek R1 / Distill-Qwen-7B” có sẵn trên Theta EdgeCloud dedicated model launchpad để sử dụng image container ở trên theo mặc định:

Sử dụng image container này, kết quả suy luận LLM sẽ bao gồm phần bổ sung sau chứa tính ngẫu nhiên công khai được trích xuất từ $Theta Blockchain, cho phép người dùng xác minh đầu ra của LLM cho prompt đã cho.

{

…

“theta_verified”: {

“seed”: 2825676771,

“verification_hash”: “aec8beec3306dddb9b9bad32cb90831d0d04132e57b318ebce64fb0f77208cdc”,

“sampling_params”: {

“seed”: 2825676771,

…

},

“block”: {

“hash”: “0xd8ba61b261ddda55520301ee23846a547615c60d29c1c4a893779ba0d53f0656”,

“height”: “30168742”,

“timestamp”: “1749770570”

}

}

Xuất bản trên chuỗi (Tùy chọn)

Đối với các trường hợp sử dụng có rủi ro cao hơn, chúng tôi hình dung việc xuất bản metadata suy luận (prompt, phân phối, seed ngẫu nhiên, kết quả) trên chuỗi, nơi nó có thể được chứng thực bởi những người giám hộ hoặc nhân chứng phi tập trung. Điều này mở ra cánh cửa cho các dịch vụ AI có thể kiểm toán và không cần tin cậy, với khả năng tích hợp vào các công cụ DAO, autonomous agent và DeFi risk engine.

Tương lai của AI là có thể xác minh

Khi AI agent trở nên tự chủ hơn và việc ra quyết định chuyển từ con người sang máy móc, niềm tin vào lớp suy luận LLM trở nên nền tảng. Với việc các AI agent này được tích hợp vào tất cả các khía cạnh của cuộc sống hàng ngày và thương mại của chúng ta, khả năng xác minh và tin tưởng vào đầu ra và hành động của chúng sẽ rất quan trọng đối với sự an toàn, bảo mật và tính toàn vẹn tài chính. Dịch vụ mới phát hành của chúng tôi mang lại một lớp bảo mật, khả năng kiểm toán và tính minh bạch rất cần thiết cho các quy trình làm việc AI này. Với sức mạnh của $Theta Blockchain/EdgeCloud và sự đổi mới nguồn mở, chúng tôi đang dẫn đầu trong việc làm cho AI không chỉ mạnh mẽ mà còn đáng tin cậy một cách chứng minh được.

Introducing Distributed Verifiable LLM Inference on Theta EdgeCloud: Combining the Strengths of AI… ban đầu được xuất bản trên Theta Network trên Medium, nơi mọi người tiếp tục cuộc trò chuyện bằng cách nêu bật và phản hồi câu chuyện này.

10s Hiểu rõ thị trường crypto
Điều khoảnChính Sách Bảo Mật của chúng tôiSách trắngXác minh chính thứcCookieBlog
sha512-gmb+mMXJiXiv+eWvJ2SAkPYdcx2jn05V/UFSemmQN07Xzi5pn0QhnS09TkRj2IZm/UnUmYV4tRTVwvHiHwY2BQ==
sha512-kYWj302xPe4RCV/dCeCy7bQu1jhBWhkeFeDJid4V8+5qSzhayXq80dsq8c+0s7YFQKiUUIWvHNzduvFJAPANWA==