Giám đốc điều hành của HyperWrite AI, Matt Shumer, đã công bố việc phát triển mô hình trí tuệ nhân tạo 'Reflection 70B', sử dụng 'Reflection-Tuning' để học từ và sửa chữa những sai lầm của mình. Mô hình này được cho là cạnh tranh với các mô hình trí tuệ nhân tạo hàng đầu như Claude 3.5 Sonnet của Anthropic và GPT-4o của OpenAI. Kỹ thuật Reflection-Tuning giúp ngăn chặn hiện tượng ảo giác của trí tuệ nhân tạo bằng cách làm cho trí tuệ nhân tạo tự nhận thức và có khả năng cải thiện hiệu suất thông qua việc tự đánh giá liên tục. Phát triển này là một phần của những nỗ lực rộng lớn để nâng cao độ tin cậy của trí tuệ nhân tạo và giảm thiểu lỗi lầm, như hiện tượng ảo giác của trí tuệ nhân tạo, là sự không chính xác trong đầu ra của trí tuệ nhân tạo.

Có một trò chuyện trí tuệ nhân tạo chatbot mới khác nữa đang gia nhập vào không gian đang đông đúc, nhưng có vẻ như cái này có thể làm điều mà hầu hết không thể — học từ những sai lầm của mình. Trong một bài đăng vào ngày 5 tháng 9 trên X, CEO của HyperWrite AI Matt Shumer thông báo về việc phát triển 'Reflection 70B,' tuyên bố đó là 'mô hình mã nguồn mở hàng đầu thế giới.' Ông thêm rằng trí tuệ nhân tạo mới này được huấn luyện bằng cách sử dụng 'Reflection-Tuning,' một kỹ thuật được phát triển để cho phép LLMs sửa chữa những sai lầm của chính họ. Reflection Llama-3.1 70B có thể 'tự giữ vững' ngay cả trước những mô hình mã nguồn đóng của hàng đầu như Anthropic’s Claude 3.5 Sonnet và GPT-4o của OpenAI trong một số tiêu chí mà ông tuyên bố. Llama 3.1 là trí tuệ nhân tạo mã nguồn mở của Meta đã được ra mắt vào tháng 7. Ông nói rằng các mô hình trí tuệ nhân tạo hiện tại thường có xu hướng mơ mộng nhưng Reflection-Tuning cho phép chúng nhận ra những sai lầm của mình và sửa chúng trước khi cam kết vào một câu trả lời. 'LLMs hiện tại có xu hướng mơ mộng và không thể nhận ra khi họ làm như vậy.' Một ảo tưởng trí tuệ nhân tạo là hiện tượng khi một chatbot trí tuệ nhân tạo sinh sản nhận thức các mẫu hoặc đối tượng không tồn tại hoặc không thể nhận thức được đối với người quan sát, tạo ra đầu ra không chính xác. Việc điều chỉnh Reflection là một kỹ thuật được sử dụng để cải thiện các mô hình trí tuệ nhân tạo bằng cách cho họ phân tích và học từ đầu ra của chính họ. Các phản ứng của trí tuệ nhân tạo có thể được đưa lại vào trí tuệ nhân tạo nơi nó có thể được yêu cầu đánh giá các phản ứng của chính mình, xác định điểm mạnh, điểm yếu và các lĩnh vực cần cải thiện, ví dụ. Quá trình này được lặp lại nhiều lần, cho phép trí tuệ nhân tạo liên tục tinh chỉnh khả năng của mình với mục tiêu làm cho nó tự nhận thức hơn về đầu ra của mình và tốt hơn trong việc phê bình và cải thiện hiệu suất của chính mình. Shumer thêm rằng 'với sự khích lệ đúng, nó là một con thú tuyệt vời cho nhiều trường hợp sử dụng,' cung cấp một liên kết demo cho mô hình mới. Liên quan: Amazon sẽ cải thiện Alexa với mô hình trí tuệ nhân tạo Claude của Anthropic: báo cáo Microsoft-backed OpenAI đã phát hành một bài báo nghiên cứu vào năm 2023 với các ý tưởng về cách giúp ngăn chặn ảo tưởng trí tuệ nhân tạo. Một ý tưởng là 'giám sát quy trình,' bao gồm việc huấn luyện các mô hình trí tuệ nhân tạo để thưởng cho bản thân họ cho mỗi bước suy luận cá nhân, đúng khi họ đang đến một câu trả lời, thay vì chỉ thưởng cho một kết luận cuối cùng đúng. 'Phát hiện và giảm thiểu những sai lầm logic của một mô hình, hoặc ảo tưởng, là một bước quan trọng trong việc xây dựng trí tuệ nhân tạo tổng quát phù hợp,' Karl Cobbe, một nhà nghiên cứu tại OpenAI, nói với CNBC vào thời điểm đó. Tạp chí: Kế hoạch 'địa ngục' drone trí tuệ nhân tạo cho Đài Loan, LLMs quá ngu ngốc để phá hủy nhân loại: AI Eye

HyperWrite AI giới thiệu mô hình 'Reflection 70B' để chống lại hiện tượng ảo tưởng của trí tuệ nhân tạo