初始Chunking Subnet基準測試:
開放的獎勵競賽的力量
完成於2024年9月5日
查看我們的筆記本,以更深入地瞭解我們的方法論以及如何查詢頂級礦工。
🔗 Juptyer Notebook: https://t.co/tkufM4haT4
🔗 GitHub Repo: https://t.co/62Cqes7sDl
我們很高興地分享,我們發佈了Chunking Subnet的第一個基準測試!
本基準測試考慮了排名最高的礦工相對於行業領導者@AI21Labs和@UnstructuredIO在虛構RAG基準上的分塊響應。
在Top K = 5(意味着包含作爲上下文的五個最相關的分塊)情況下,@chunking_subnet的得分爲61.9%,@UnstructuredIO爲56.7%,@AI21Labs爲45.7%。
該基準測試將每週進行,並很快在我們的子網儀表板上可視化:https://t.co/T201iuXMaz
注意:子網仍處於早期階段,但開始成型!下一個補丁將讓驗證者僞隨機選擇最大分塊大小和最大分塊數量,以便礦工必須針對一系列常見應用進行優化。