Hôm qua
Khi bạn cho model thời gian suy nghĩ. Không phải đuốc to hơn — mà cầm đuốc đúng cách hơn
Nội dung

Không phải đuốc to hơn — mà cầm đuốc đúng cách hơn

Khi bạn đọc một câu văn, mắt bạn lướt từ trái sang phải, từng chữ một, hiểu rồi mới sang chữ tiếp. Nhưng khi một AI đọc câu của bạn, nó không làm vậy. Nó cầm một ngọn đuốc.

Ngọn đuốc ấy không đi theo đường thẳng. Nó soi vào từng token — những mảnh nhỏ của ngôn ngữ mà AI dùng để hiểu thế giới. Và mỗi khi ánh sáng chạm vào một token, điều kỳ diệu xảy ra: không chỉ chữ đó sáng lên, mà cả một mạng lưới liên kết xung quanh nó cũng bừng tỉnh. Nghĩa của từ, ngữ cảnh câu, và cả những ký ức sâu thẳm từ quá trình huấn luyện — tất cả kéo nhau bật sáng theo.

Bạn viết "Einstein." Ánh đuốc chạm vào. Ngay lập tức, vật lý học, thuyết tương đối, năm 1905, mái tóc bù xù, và cả hình ảnh một thiên tài ngồi bên bàn viết — tất cả hiện ra cùng lúc. Đó không phải là việc mở từ điển ra tra. Đó là kéo ánh sáng vào đúng chỗ, để những điều vốn đã kết nối với nhau tự nhiên lộ diện. Các nhà nghiên cứu gọi đó là attention — sự chú ý. Nhưng có lẽ gọi nó là "ánh sáng được dẫn đường" thì đúng hơn.

Và rồi có một câu hỏi thú vị: điều gì xảy ra khi ta cho AI "thời gian để nghĩ"?

Khi bạn cho phép một mô hình AI suy nghĩ trước khi trả lời — thay vì bắt nó nhảy thẳng từ câu hỏi đến câu trả lời — nó không chỉ cho ra kết quả nhanh hơn hay chậm hơn. Nó sinh ra thêm những token. Những token này không phải là câu trả lời cuối cùng. Chúng là những bước đệm. Mỗi token mới trở thành input mới. Input mới lại mời ngọn đuốc soi thêm một lần nữa. Và mỗi lần đuốc được vung lên, một vùng sáng mới được kéo vào, một mối liên hệ mới được khám phá, một lớp nghĩa mới được hé mở.

Hãy tưởng tượng bạn đọc một bài thơ. Lần đầu tiên, bạn thấy chữ — những con chữ nằm yên trên trang giấy. Lần thứ hai, bạn thấy vần — nhịp điệu bắt đầu vang lên. Lần thứ ba, bạn thấy ý — thông điệp của tác giả dần hiện hình. Và lần thứ tư, bạn thấy cảm xúc — thứ mà không lời nào diễn tả trực tiếp, nhưng lại là thứ quan trọng nhất. Không có quá trình "suy nghĩ," AI cũng giống như người đọc thơ chỉ dừng lại ở lần đầu tiên: thấy chữ, rồi trả lời. Có quá trình suy nghĩ, AI được phép đọc lại, ngẫm lại, đi sâu hơn — mỗi bước là một lần đuốc được vung lên, không phải để mở rộng vùng sáng, mà để đào sâu vào những gì đã có.

Đó là lý do tại sao một kiến trúc mới tên Ouro lại gây chú ý đến vậy.

Thay vì xây dựng 24 tầng xử lý khác nhau — mỗi tầng làm một việc riêng, như một dây chuyền công nghiệp — Ouro làm điều ngược lại. Nó lấy cùng 24 tầng đó, và lặp lại chúng bốn lần. Cùng số lượng tham số. Cùng lượng tài nguyên. Nhưng mỗi vòng lặp, ngọn đuốc được soi lại vào cùng một thông tin — sâu hơn, tinh hơn, kỹ hơn.

Kết quả từ các thí nghiệm cho thấy điều đáng ngạc nhiên: Ouro không nhớ nhiều hơn các mô hình thông thường. Nhưng nó xử lý thông tin mà nó có tốt hơn hẳn. Hãy nghĩ về hai người cùng đọc một cuốn sách. Người thứ nhất nhớ từng trang, thuộc từng chi tiết, nhưng khi được hỏi một câu hỏi mới, họ lúng túng. Người thứ hai nhớ ít trang hơn, nhưng họ hiểu mạch truyện, nối được các ý tưởng lại với nhau, và áp dụng những gì đã đọc vào những tình huống hoàn toàn mới. Ouro là người thứ hai. Không phải vì nó thông minh hơn — mà vì nó biết cách đọc lại.

Con số biết nói: Ouro chỉ có 1,4 tỷ tham số, nhưng hiệu năng của nó ngang ngửa những mô hình 12 tỷ tham số. Chênh lệch gần gấp chín lần. Trong một thế giới mà các công ty đua nhau xây dựng những mô hình ngày càng khổng lồ, tốn kém hàng triệu đô la để vận hành, thì đây là một lời nhắc nhở quan trọng: không phải ai cũng có tài nguyên để chạy những cỗ máy khổng lồ. Và có lẽ, chúng ta không cần chúng.

Đôi khi để đi xa, bạn không cần bước thêm. Bạn chỉ cần đi lại những bước cũ — nhưng rõ hơn mỗi lần.

Và câu chuyện này không dừng lại ở Ouro. Có vẻ như Anthropic đang đi theo hướng tương tự với dự án Mythos — một mô hình được thiết kế để đạt kết quả vượt trội trong khi sử dụng rất ít token. Đây là khái niệm mà giới nghiên cứu gọi là token efficiency — hiệu quả sử dụng token. Hiểu đơn giản: các mô hình thông thường cần sinh ra rất nhiều token "suy nghĩ" để soi đủ vùng sáng cần thiết, và điều đó tốn kém. Nhưng Mythos, nếu hoạt động theo cơ chế lặp tương tự Ouro, thì mỗi vòng lặp của nó là một lần soi lại sâu hơn — mà không cần sinh thêm token đầu ra. Ánh đuốc không cần được vung nhiều lần hơn. Mỗi lần vung, nó đi sâu hơn, chứ không phải rộng hơn.

Đây có thể là manh mối cho tương lai của AI: không phải những mô hình to hơn, mạnh hơn, tốn kém hơn. Mà là những mô hình biết cách dùng ánh sáng thông minh hơn. Không phải đuốc to hơn. Mà cầm đuốc đúng cách hơn.

Lần tới khi bạn gõ một câu hỏi vào AI, thử nghĩ xem: ngọn đuốc ấy đang soi vào đâu? Và liệu nó có đang được cầm đúng cách?