Phần lớn các hệ thống AI gây chú ý trong vài năm qua đều hoạt động bằng cách dự đoán mẩu dữ liệu tiếp theo. Mô hình ngôn ngữ dự đoán từ tiếp theo. Mô hình tạo ảnh dự đoán các điểm ảnh. Cách tiếp cận này đã thành công đáng kinh ngạc, nhưng một trong những nhà nghiên cứu có ảnh hưởng nhất trong lĩnh vực cho rằng nó có giới hạn, và cần một ý tưởng khác để tạo ra những cỗ máy thực sự hiểu thế giới.
Ý tưởng đó là Joint Embedding Predictive Architecture, hay JEPA (Kiến trúc dự đoán nhúng kết hợp). Được Yann LeCun đề xuất năm 2022, đây là một phương pháp học dự đoán trong không gian trừu tượng của ý nghĩa thay vì trong không gian thô của điểm ảnh hay từ ngữ. Canh bạc phía sau nó rất lớn: dự đoán ý nghĩa của một thứ, đồng thời bỏ qua những chi tiết không thể dự đoán, gần với cách con người và động vật học hơn, và là nền tảng tốt hơn cho suy luận và lập kế hoạch so với việc dự đoán mọi chi tiết của dữ liệu. Bài hướng dẫn này đi sâu vào chủ đề. Bài viết giải thích JEPA là gì, ý tưởng dựa trên năng lượng đằng sau nó, hàm mục tiêu huấn luyện thực tế, cách các mô hình thực tế từ I-JEPA đến V-JEPA 2 được xây dựng, cách dùng JEPA để lập kế hoạch và hành động, vị trí của nó trong một bản thiết kế lớn hơn cho trí tuệ máy, và lý do một tỷ đô la vốn đầu tư mới đang đặt cược vào nó.
JEPA trong một phút: câu trả lời ngắn gọn
Joint Embedding Predictive Architecture (JEPA) là một phương pháp học tự giám sát, dự đoán biểu diễn trừu tượng của một phần đầu vào từ biểu diễn của một phần khác, thay vì tái tạo dữ liệu thô. Nhờ dự đoán ý nghĩa thay vì điểm ảnh, nó có thể bỏ qua những chi tiết không thể dự đoán và tập trung vào cấu trúc quan trọng. Yann LeCun đề xuất JEPA năm 2022 như một bước tiến tới AI có khả năng xây dựng mô hình nội tại về thế giới.
Những điểm chính:
- JEPA dự đoán trong không gian biểu diễn, tức không gian của các embedding, chứ không phải trong không gian đầu vào, tức không gian của điểm ảnh hay token.
- Điều này cho phép nó loại bỏ nhiễu không thể dự đoán và học được các đặc trưng hiệu quả, có ý nghĩa.
- Nó dùng một encoder để chuyển đầu vào thành embedding và một predictor để ước lượng embedding mục tiêu, cùng một biến tiềm ẩn để xử lý những gì không thể biết trước.
- Nó không phải mô hình sinh: nó không bao giờ tạo ra điểm ảnh hay văn bản, chỉ đưa ra dự đoán về các biểu diễn.
- Các mô hình chính gồm I-JEPA (hình ảnh, 2023), V-JEPA (video, 2024) và V-JEPA 2 (mô hình thế giới dựa trên video dùng để lập kế hoạch cho robot, 2025).
- JEPA là nền tảng của các mô hình thế giới mà LeCun và nhiều người khác tin là con đường vượt qua các mô hình ngôn ngữ lớn hiện nay.
Joint Embedding Predictive Architecture là gì?
Cái tên nghe có vẻ đáng sợ, nhưng mỗi từ mô tả một phần đơn giản của ý tưởng. Joint embedding (nhúng kết hợp) nghĩa là nó biến hai phần đầu vào thành các embedding, tức những danh sách số gọn nhẹ nắm bắt ý nghĩa hoặc đặc trưng của đầu vào thay vì hình thức thô của nó. Predictive (dự đoán) nghĩa là nó dự đoán một embedding từ embedding còn lại. Architecture (kiến trúc) chỉ có nghĩa đây là một thiết kế tổng quát, không phải một mô hình duy nhất.
Gộp lại, một JEPA nhận hai đầu vào có liên quan, thường là hai phần của cùng một bức ảnh hoặc hai thời điểm của cùng một video, và học bằng cách dự đoán embedding của phần này từ embedding của phần kia. Điểm mấu chốt là nó không bao giờ cố tái tạo các điểm ảnh gốc. Nó hoạt động hoàn toàn trong không gian trừu tượng của các biểu diễn. Đó là ý nghĩa khi người ta nói JEPA dự đoán trong không gian tiềm ẩn (latent space).
Nó thuộc về một họ phương pháp gọi là học tự giám sát (self-supervised learning), trong đó mô hình tự học từ dữ liệu không gán nhãn bằng cách che đi một phần đầu vào và cố dự đoán phần đó từ phần còn lại. Không cần nhãn do con người tạo, chỉ cần ảnh, video thô hoặc các tín hiệu khác. Điều làm JEPA khác biệt trong họ đó là quyết định dự đoán biểu diễn thay vì chính dữ liệu.
Vì sao dự đoán điểm ảnh là mục tiêu sai
Để hiểu vì sao JEPA ra đời, hãy nhìn vào những gì có trước nó. Mô hình sinh (generative model) học bằng cách cố tái tạo dữ liệu. Che một phần bức ảnh và yêu cầu nó điền chính xác các điểm ảnh bị thiếu, hoặc đưa cho nó một câu và yêu cầu từ tiếp theo chính xác. Vấn đề là thế giới đầy những chi tiết không thể dự đoán chính xác.
Hãy tưởng tượng một video quả bóng đang lăn về phía mép bàn. Bạn có thể tự tin dự đoán rằng nó sẽ rơi. Điều bạn không thể dự đoán là chính xác nó sẽ nảy ra sao, hoa văn ánh sáng trên sàn trông thế nào, hay vị trí của từng hạt bụi trong không khí. Một mô hình buộc phải dự đoán điểm ảnh sẽ phải dồn công sức để xác định tất cả những chi tiết không thể dự đoán đó, khiến năng lực của nó bị lãng phí vào nhiễu thay vì vào điều thực sự quan trọng, đó là quả bóng rơi.
Câu trả lời của JEPA là ngừng dự đoán chi tiết. Thay vì dự báo từng điểm ảnh của khung hình tương lai, nó dự báo một biểu diễn trừu tượng của khung hình đó, một bản tóm tắt có thể nắm bắt việc quả bóng rơi trong khi loại bỏ những phần không thể biết trước. Encoder được phép bỏ đi thông tin không thể dự đoán, nhờ đó bài toán dự đoán trở nên dễ hơn và các đặc trưng học được trở nên có ý nghĩa hơn. Chỉ một thay đổi này, từ dự đoán dữ liệu sang dự đoán biểu diễn, chính là trái tim của JEPA.
JEPA như một mô hình dựa trên năng lượng
LeCun đặt JEPA trong một ý tưởng rộng hơn gọi là mô hình dựa trên năng lượng (energy-based model), và cách nhìn này giải thích phần lớn thiết kế của nó. Mô hình dựa trên năng lượng không trực tiếp xuất ra một xác suất hay một nhãn. Thay vào đó, nó học một hàm năng lượng cho giá trị thấp với những tổ hợp khớp với nhau và giá trị cao với những tổ hợp không khớp. Với một cặp đầu vào x và y, năng lượng thấp khi y là đối tác hoặc phần tiếp nối hợp lý của x, và cao khi không phải.
Trong JEPA, năng lượng đó là sai số dự đoán trong không gian embedding: khoảng cách giữa embedding mục tiêu được dự đoán và embedding thực. Khi mô hình dự đoán tốt, năng lượng thấp và cặp đầu vào được đánh giá là tương thích. Huấn luyện chính là việc khắc các thung lũng vào bề mặt này xung quanh dữ liệu thực, sao cho các cặp đúng nằm ở đáy và các cặp sai bị đẩy lên.
Nhìn theo cách này, vấn đề sụp đổ (collapse) có ý nghĩa rõ ràng. Nếu encoder xuất ra cùng một vector cho mọi thứ, bề mặt trở nên phẳng và thấp ở khắp nơi, điều này vô dụng vì không có gì được phân biệt với bất cứ thứ gì khác. Toàn bộ nghệ thuật huấn luyện JEPA là định hình một bề mặt năng lượng chỉ thấp ở những nơi cần thấp, và các kỹ thuật được mô tả ở phần sau tồn tại chính là để giữ cho bề mặt đó không bị phẳng.
JEPA hoạt động thế nào: bên trong kiến trúc
Một JEPA có ba thành phần chính, và cách dễ nhất để hiểu chúng là theo dõi một mẫu huấn luyện đi qua hệ thống.
Mọi thứ bắt đầu với hai đầu vào có liên quan. Gọi chúng là x, ngữ cảnh, và y, mục tiêu. Với một bức ảnh, x có thể là vài mảng (patch) nhìn thấy được và y là một vùng bị che mà ta muốn dự đoán. Mỗi đầu vào đi qua một encoder, tức một mạng nơ-ron biến nó thành embedding, ký hiệu s_x và s_y. Các embedding này là bản tóm tắt trừu tượng của từng phần.
Thành phần thứ hai là predictor. Nó nhận embedding ngữ cảnh s_x và cố tạo ra dự đoán cho embedding mục tiêu, ký hiệu s_y có dấu mũ. Vì ngữ cảnh thường không chứa đủ mọi thứ cần thiết để biết chính xác mục tiêu, predictor còn được cung cấp một biến tiềm ẩn, ký hiệu z, đại diện cho thông tin còn thiếu, chẳng hạn mục tiêu nằm ở đâu hoặc kết quả nào trong số nhiều kết quả hợp lý đã xảy ra. Trong các mô hình hình ảnh và video, biến tiềm ẩn này trên thực tế được cung cấp dưới dạng các token cho predictor biết vùng mục tiêu nằm ở đâu.
Thành phần thứ ba là tín hiệu học. Quá trình huấn luyện chỉ đơn giản là điều chỉnh encoder và predictor để embedding dự đoán gần nhất có thể với embedding mục tiêu thực, được đo bằng một khoảng cách D. Không có decoder và không có bất kỳ nỗ lực tái tạo điểm ảnh nào trong toàn bộ quá trình. Một chi tiết quan trọng giữ cho cả hệ thống không gian lận: phía mục tiêu thường dùng một target encoder riêng có trọng số là trung bình trượt chậm của encoder chính. Như một phần sau sẽ giải thích, đó là điều ngăn mô hình sụp đổ vào một lối tắt vô dụng.
Toán học của JEPA, viết theo ký hiệu đơn giản
Ý tưởng này có thể được viết ra gọn gàng, và việc gọi tên từng phần giúp kiến trúc trở nên cụ thể. Ở đây không có toán học nặng nề, chỉ vài dòng tóm gọn toàn bộ vòng lặp huấn luyện. Dùng f cho encoder, g cho predictor và θ cho trọng số của một mạng:
- Mã hóa ngữ cảnh: sx = f(x), trong đó f là mạng encoder.
- Mã hóa mục tiêu: sy = ftarget(y), dùng một target encoder riêng.
- Dự đoán embedding mục tiêu: ŝy = g(sx, z), trong đó g là predictor và z mang thông tin còn thiếu, chẳng hạn vị trí của mục tiêu.
- Đo sai số: hàm mất mát là khoảng cách giữa dự đoán và embedding mục tiêu thực, lấy trung bình trên tất cả mục tiêu, tức loss = trung bình của D(ŝy, sy), với D thường là khoảng cách bình phương đơn giản.
- Chặn lối tắt: gradient không được phép truyền ngược qua target encoder, ký hiệu là stop-gradient trên sy, để mô hình không thể dễ dàng làm hai phía bằng nhau bằng cách thay đổi mục tiêu.
- Cập nhật target encoder từ từ: trọng số của nó là trung bình trượt hàm mũ (EMA) của encoder chính, θtarget ← τ · θtarget + (1 − τ) · θ, với τ gần bằng một.
Hai dòng trong danh sách đó gánh phần việc nặng nhất. Dự đoán trong không gian embedding, dòng thứ ba, là điều cho phép mô hình bỏ qua chi tiết không thể dự đoán. Stop-gradient và target trung bình trượt, dòng thứ năm và thứ sáu, là những gì ngăn nó sụp đổ. Mọi thứ còn lại là huấn luyện mạng nơ-ron thông thường bằng gradient descent.
Ba cách học: mô hình sinh, joint-embedding và JEPA
Sẽ dễ định vị JEPA hơn khi so sánh nó với hai cách tiếp cận mà nó kế thừa. LeCun mô tả cả ba theo cách chúng xử lý một cặp đầu vào x và y.
Kiến trúc sinh (generative) dự đoán y trực tiếp, trong không gian của chính dữ liệu, và cần một decoder để chuyển dự đoán trở lại thành điểm ảnh hoặc token. Kiến trúc joint-embedding, bao gồm các phương pháp tương phản (contrastive), mã hóa x và y thành embedding và học xem chúng có thuộc về nhau hay không, nhưng không dự đoán cái này từ cái kia. JEPA nằm giữa hai cách đó: giống mô hình joint-embedding, nó hoạt động trong không gian embedding, và giống mô hình sinh, nó dự đoán, nhưng nó dự đoán embedding của y chứ không phải chính y.
| Khía cạnh | Mô hình sinh | Joint-embedding | JEPA |
|---|---|---|---|
| Ý tưởng cốt lõi | Tái tạo hoặc dự đoán dữ liệu | Làm cho embedding của các đầu vào liên quan khớp nhau | Dự đoán một embedding từ embedding khác |
| Dự đoán trong | Không gian đầu vào (điểm ảnh, token) | Không gian embedding (độ tương đồng) | Không gian embedding |
| Dùng decoder | Có | Không | Không |
| Loại bỏ nhiễu | Không, mô hình hóa mọi chi tiết | Có | Có |
| Xử lý sự bất định bằng | Khó, đầu ra là một phỏng đoán cố định | Không trực tiếp | Biến tiềm ẩn z |
| Kiểu thất bại chính | Lãng phí năng lực vào chi tiết | Sụp đổ biểu diễn | Sụp đổ biểu diễn |
| Ví dụ | Masked autoencoder, diffusion, hầu hết LLM | SimCLR, BYOL, VICReg | I-JEPA, V-JEPA, V-JEPA 2 |
Bảng trên cho thấy rõ sự đánh đổi. Mô hình sinh giữ lại mọi chi tiết và phải trả giá bằng năng lực bị lãng phí. Mô hình joint-embedding và JEPA bỏ đi chi tiết, hiệu quả hơn nhưng lại mang đến một nguy cơ khác, đó là vấn đề sụp đổ.
Vấn đề sụp đổ và cách JEPA tránh nó
Dự đoán trong không gian embedding tạo ra một lối tắt đầy cám dỗ. Nếu mục tiêu duy nhất là làm embedding dự đoán khớp với embedding mục tiêu, cách dễ nhất để thắng là encoder xuất ra cùng một vector hằng số cho mọi đầu vào. Khi đó dự đoán luôn hoàn hảo, khoảng cách luôn bằng không, và mô hình chẳng học được gì. Thất bại này được gọi là sụp đổ biểu diễn (representation collapse), và tránh được nó là thách thức kỹ thuật trung tâm của mọi phương pháp trong họ này.
Có ba nhóm giải pháp lớn, khác nhau ở cách chúng buộc embedding phải giữ được thông tin.
| Chiến lược | Cách ngăn sụp đổ | Cần mẫu âm? | Ví dụ | Được các mô hình JEPA dùng? |
|---|---|---|---|---|
| Tương phản (contrastive) | Đẩy embedding của các đầu vào không liên quan ra xa nhau | Có, thường rất nhiều | SimCLR, MoCo | Hiếm khi |
| Điều chuẩn (regularized) | Buộc embedding phải đa dạng và không tương quan | Không | VICReg, Barlow Twins | Ở một số biến thể |
| Chưng cất (distillation) | Target encoder bất đối xứng, cập nhật bằng trung bình trượt, kèm stop-gradient | Không | BYOL, DINO | Có (I-JEPA, V-JEPA) |
Các phương pháp tương phản phạt đầu ra hằng số bằng cách tách rời rõ ràng các mẫu không liên quan, nhưng chúng cần số lượng lớn mẫu âm và rất nhiều dữ liệu. Các phương pháp điều chuẩn như VICReg thêm các thành phần giúp mỗi chiều của embedding luôn đa dạng và ngăn các chiều trùng lặp nhau, nhờ đó biểu diễn không bị co lại thành một điểm. Các phương pháp chưng cất, vốn được các mô hình hình ảnh và video của JEPA sử dụng, phá vỡ sự đối xứng giữa hai phía: target encoder không được huấn luyện trực tiếp mà được đặt bằng trung bình trượt chậm của context encoder, và gradient bị chặn không cho truyền qua nó. Sự bất đối xứng này lặng lẽ loại bỏ động lực sụp đổ, mà không cần mẫu âm và không cần tăng cường dữ liệu (data augmentation) thủ công.
Điểm cuối cùng đó là một phần lý do khiến JEPA thu hút sự chú ý. Nhiều phương pháp tự giám sát trước đây phụ thuộc nặng vào tăng cường dữ liệu, chẳng hạn cắt và đổi màu cùng một bức ảnh, để tạo ra các cặp huấn luyện. Mô hình hình ảnh của JEPA học được các đặc trưng mạnh, giàu ngữ nghĩa mà không dựa vào những thủ thuật đó, khiến nó đơn giản và tổng quát hơn.
Lược sử JEPA
JEPA không tự nhiên xuất hiện. Đây là bước mới nhất trong một chuỗi dài các nghiên cứu về học từ dữ liệu không gán nhãn.
Nguồn gốc của nó bắt nguồn từ các mạng Siamese của thập niên 1990, vốn so sánh hai đầu vào qua hai encoder song sinh, và từ các mô hình dựa trên năng lượng mà LeCun cùng các cộng sự hình thức hóa vào thập niên 2000, vốn đo mức độ tương thích giữa hai thứ. Làn sóng học tự giám sát từ 2018 đến 2021 mang đến các phương pháp tương phản như SimCLR và MoCo, rồi các phương pháp không tương phản như BYOL, Barlow Twins và VICReg, vốn học được biểu diễn tốt mà không cần mẫu âm. Những phương pháp này đã đặt nền móng bằng cách chứng minh rằng học joint-embedding có thể hoạt động ở quy mô lớn.
Năm 2022, LeCun kết nối các mạch ý tưởng này trong một bài viết quan điểm có tựa đề A Path Towards Autonomous Machine Intelligence, phác thảo một bản thiết kế rộng cho những cỗ máy biết nhận thức, dự đoán và lập kế hoạch, với JEPA là lõi dự đoán. Mô hình cụ thể đầu tiên, I-JEPA, ra đời năm 2023 cho hình ảnh. V-JEPA tiếp nối năm 2024 cho video. Năm 2025 xuất hiện V-JEPA 2, một mô hình thế giới video lớn hơn nhiều, có khả năng lập kế hoạch hành động cho robot. Và cuối năm 2025, LeCun rời Meta để thành lập một công ty xây dựng quanh những ý tưởng này, công ty đã huy động được hơn một tỷ đô la vào đầu năm 2026, một dấu hiệu cho thấy cách tiếp cận này hiện được nhìn nhận nghiêm túc đến mức nào.
I-JEPA chi tiết
I-JEPA, mô hình cụ thể đầu tiên trong họ, đáng được xem xét kỹ vì nó đặt ra khuôn mẫu mà các mô hình khác làm theo. Được Meta phát hành năm 2023, nó học từ ảnh tĩnh bằng ba mạng: một context encoder, một target encoder và một predictor, tất cả đều xây dựng trên Vision Transformer, loại mạng xem một bức ảnh như một lưới các mảng (patch).
Công thức huấn luyện rất đặc trưng. Từ mỗi bức ảnh, phương pháp lấy mẫu vài khối mục tiêu, tức những vùng lớn mà mô hình sẽ cố dự đoán, và một khối ngữ cảnh duy nhất, một vùng riêng biệt mà mô hình được phép nhìn thấy. Ngữ cảnh và mục tiêu được giữ không chồng lấn nhau, để mô hình không thể đơn giản chép lại đáp án. Context encoder chỉ xử lý các mảng ngữ cảnh nhìn thấy được và biến chúng thành embedding. Predictor, một Vision Transformer nhỏ hơn, sau đó nhận các embedding đó cùng thông tin vị trí của từng khối mục tiêu và dự đoán embedding mà mục tiêu cần có. Embedding mục tiêu thực đến từ target encoder, vốn nhìn thấy toàn bộ bức ảnh và có trọng số là trung bình trượt chậm của context encoder.
Hai lựa chọn thiết kế tạo nên đặc điểm của I-JEPA. Thứ nhất, các mục tiêu có kích thước lớn và ngữ cảnh giàu thông tin nhưng phân tán về không gian, buộc mô hình phải nắm bắt cấu trúc tổng thể của một cảnh thay vì kết cấu cục bộ, và đó là điều làm cho các đặc trưng học được mang tính ngữ nghĩa. Thứ hai, khác với các phương pháp tương phản trước đó, I-JEPA không cần tăng cường dữ liệu thủ công, không cần cắt ảnh hay làm nhiễu màu để tạo cặp. Kết quả là một mô hình học được các đặc trưng hình ảnh mạnh, đa dụng, trong khi việc huấn luyện hiệu quả hơn rõ rệt so với các phương án khác như masked autoencoder. Meta mô tả predictor của nó là một mô hình thế giới sơ khai đầu tiên, một mạng điền vào phần còn thiếu của một cảnh trong không gian biểu diễn.
V-JEPA chi tiết
V-JEPA, phát hành năm 2024, mang cùng công thức từ hình ảnh sang video, một tín hiệu khó hơn và phong phú hơn nhiều vì chứa chuyển động và dòng chảy thời gian. Thay vì các mảng của một bức ảnh đơn, V-JEPA làm việc với các ống video ngắn trải dài cả trong không gian lẫn qua nhiều khung hình. Nó che đi các vùng của một đoạn clip, thường là cùng một vùng không gian xuyên suốt nhiều khung hình để đáp án không thể được chép từ một thời điểm lân cận, và dự đoán biểu diễn của các vùng bị che từ các vùng nhìn thấy được.
Giống như I-JEPA, việc dự đoán diễn ra trong không gian embedding, không có tái tạo điểm ảnh, và biểu diễn mục tiêu đến từ một encoder trung bình trượt. Bằng cách học điền vào các phần còn thiếu của video ở cấp độ ý nghĩa, V-JEPA nắm bắt được hiểu biết về cách các vật thể chuyển động và tương tác. Nó tỏ ra đặc biệt mạnh ở các tác vụ đòi hỏi đọc hiểu chuyển động theo thời gian, loại tác vụ mà các mô hình dự đoán điểm ảnh thường xử lý kém, và nó có thể được đánh giá với backbone được đóng băng, một dấu hiệu cho thấy các đặc trưng nó học được thực sự tổng quát chứ không bị tinh chỉnh cho một tác vụ duy nhất.
V-JEPA 2 chi tiết
V-JEPA 2, phát hành tháng 6 năm 2025, là bước mà cách tiếp cận này phát triển từ một bộ học biểu diễn thành một mô hình thế giới có thể sử dụng được, và là bằng chứng rõ ràng nhất cho đến nay rằng canh bạc JEPA có thể mang lại kết quả. Bước nhảy vọt đến từ quy mô và từ một giai đoạn huấn luyện thứ hai.
Giai đoạn đầu là tiền huấn luyện JEPA thông thường, nhưng với quy mô khổng lồ. V-JEPA 2 được huấn luyện trên hơn một triệu giờ video từ internet cùng khoảng một triệu hình ảnh, dùng mục tiêu dự đoán có che trong không gian tiềm ẩn. Meta cho biết bốn yếu tố giúp quy mô này thành công: một tập dữ liệu lớn hơn nhiều được tập hợp riêng cho mục đích này, một encoder lớn hơn nhiều với khoảng một tỷ tham số, một lịch trình huấn luyện dài hơn và tăng dần hơn, và việc mở rộng sang độ phân giải cao hơn cùng các clip dài hơn. Thành quả là một mô hình nắm bắt mạnh mẽ và tổng quát các động lực học vật lý. Nó đạt kết quả dẫn đầu về hiểu chuyển động, ghi 77,3 điểm trên benchmark Something-Something v2, đạt kết quả state-of-the-art về dự đoán hành động của con người trên benchmark Epic-Kitchens-100, và khi các đặc trưng của nó được kết hợp với một mô hình ngôn ngữ, nó đạt hiệu năng hàng đầu trên nhiều bài kiểm tra hỏi đáp về video.
Giai đoạn thứ hai là điều biến nó thành mô hình thế giới phục vụ hành động. Một biến thể gọi là V-JEPA 2-AC, viết tắt của action-conditioned (có điều kiện hành động), được huấn luyện trên nền encoder đã tiền huấn luyện, chỉ dùng khoảng sáu mươi hai giờ video robot không gán nhãn từ một tập dữ liệu công khai. Mạng nhỏ hơn này, khoảng ba trăm triệu tham số, học cách dự đoán trạng thái tiềm ẩn của thế giới sẽ thay đổi thế nào khi robot thực hiện một hành động nhất định. Nhờ đó, hệ thống có thể lập kế hoạch: với một mục tiêu được chỉ định dưới dạng hình ảnh, nó hình dung kết quả của các chuỗi hành động khác nhau trong không gian tiềm ẩn và chọn chuỗi có kết quả dự đoán gần mục tiêu nhất. Khi được triển khai theo cách này trên các cánh tay robot thực ở hai phòng thí nghiệm khác nhau, không qua huấn luyện trong các môi trường đó và không có phần thưởng riêng cho tác vụ, V-JEPA 2 có thể với tới, cầm nắm và đặt những vật thể nó chưa từng thấy, lập kế hoạch cho từng chuyển động ngay tức thời.
| Mô hình | Năm | Phương thức dữ liệu | Dữ liệu huấn luyện | Ý tưởng chính | Kết quả nổi bật |
|---|---|---|---|---|---|
| I-JEPA | 2023 | Hình ảnh | Các tập dữ liệu ảnh | Dự đoán biểu diễn của các khối mục tiêu bị che từ một khối ngữ cảnh | Đặc trưng mạnh, hiệu quả, không cần tăng cường dữ liệu |
| V-JEPA | 2024 | Video | Video internet | Dự đoán biểu diễn của các vùng không gian - thời gian bị che | Học chuyển động từ video thô, không dùng điểm ảnh |
| V-JEPA 2 | 2025 | Video, kèm hành động | Hơn 1 triệu giờ video, 62 giờ video robot | Mở rộng quy mô thành mô hình thế giới, thêm biến thể có điều kiện hành động | Lập kế hoạch robot zero-shot, điểm số hàng đầu về chuyển động và dự đoán hành động |
Từ dự đoán đến lập kế hoạch
Các kết quả trên robot đáng được xem xét kỹ hơn, vì biến một mô hình dự đoán thành một bộ lập kế hoạch chính là cây cầu nối giữa nhận thức thế giới và hành động trong thế giới. Phương pháp này là một ý tưởng kinh điển gọi là điều khiển dự báo theo mô hình (model-predictive control), giờ được vận hành bởi một mô hình thế giới học được thay vì một trình mô phỏng vật lý viết tay.
Vòng lặp hoạt động như sau. Hệ thống quan sát cảnh hiện tại và mã hóa nó thành một trạng thái tiềm ẩn. Nó cũng được cung cấp một mục tiêu, thường là hình ảnh của kết quả mong muốn, được mã hóa theo cùng cách. Sau đó nó hình dung: dùng mô hình thế giới có điều kiện hành động, nó triển khai tới trước nhiều chuỗi hành động ứng viên và dự đoán, hoàn toàn trong không gian tiềm ẩn, trạng thái tương lai mà mỗi chuỗi sẽ dẫn đến. Nó chấm điểm từng tương lai được hình dung theo mức độ gần với trạng thái mục tiêu, giữ lại những chuỗi hứa hẹn nhất, và tinh chỉnh dần các phỏng đoán hướng tới những chuỗi ngày càng tốt hơn. Cuối cùng, nó thực hiện hành động đầu tiên của kế hoạch tốt nhất, quan sát điều thực sự đã xảy ra, và lặp lại từ trạng thái mới. Vì toàn bộ việc hình dung diễn ra trong không gian biểu diễn gọn nhẹ thay vì trong điểm ảnh, quá trình tìm kiếm này đủ nhanh để chạy theo thời gian thực. Đây là lý do JEPA không chỉ là một mô hình nhận thức. Nó có thể được dùng để lập kế hoạch.
Bản thiết kế lớn hơn: trí tuệ máy tự chủ
JEPA chưa bao giờ được định ra để đứng một mình. Nó được giới thiệu như một thành phần trong một thiết kế lớn hơn cho thứ mà LeCun gọi là trí tuệ máy tự chủ (autonomous machine intelligence), một bản phác thảo về cách các bộ phận của một tác tử biết suy nghĩ và hành động có thể khớp với nhau.
Trong thiết kế đó, một số mô-đun phối hợp với nhau. Mô-đun nhận thức đọc các giác quan và ước lượng trạng thái hiện tại của thế giới. Mô hình thế giới, tức JEPA, dự đoán trạng thái đó sẽ biến đổi ra sao và điền vào những gì nhận thức không nhìn thấy. Mô-đun chi phí đo mức độ tốt hay xấu của một tình huống, kết hợp các động lực được lập trình sẵn với một bộ đánh giá học được có khả năng dự liệu chi phí tương lai, và chính chi phí này là thứ hệ thống cố gắng giảm thiểu. Mô-đun hành động đề xuất các chuỗi hành động và, dùng mô hình thế giới để thấy trước hệ quả cùng mô-đun chi phí để đánh giá chúng, tìm kiếm chuỗi dẫn đến kết quả tốt nhất. Bộ nhớ ngắn hạn lưu giữ các trạng thái và dự đoán gần đây, còn bộ cấu hình đứng trên tất cả, điều chỉnh từng mô-đun cho tác vụ hiện tại. JEPA là động cơ dự đoán ở trung tâm cỗ máy này, và phần còn lại của kiến trúc là những gì biến dự đoán thành hành vi có mục đích.
JEPA phân cấp: lập kế hoạch trên nhiều thang thời gian
Các mục tiêu thực tế diễn ra trên nhiều thang thời gian. Pha một tách cà phê gồm một kế hoạch cấp cao, đi vào bếp, rồi một chuỗi các bước cấp trung, rồi đến điều khiển vận động tinh để cầm lấy quai tách, và không một mô hình dự đoán đơn lẻ nào hoạt động tốt ở tất cả các cấp độ này cùng lúc. Câu trả lời của LeCun là xếp chồng các JEPA thành một hệ phân cấp, một ý tưởng ông gọi là H-JEPA.
Các cấp cao hơn của hệ phân cấp dự đoán và lập kế hoạch một cách trừu tượng trên tầm nhìn dài, làm việc với các biểu diễn thô bỏ qua chi tiết. Các cấp thấp hơn xử lý dự đoán chi tiết, tầm nhìn ngắn. Điểm mấu chốt là một cấp cao không chỉ định từng hành động; nó đặt ra các mục tiêu con mà cấp bên dưới sẽ tìm cách đạt được, và cứ thế xuống tới cấp thấp nhất. Điều này phản ánh cách con người lập kế hoạch, quyết định sẽ đi đâu trước khi quyết định cử động từng cơ bắp ra sao, và đó là điều sẽ cho phép một tác tử dựa trên JEPA lập kế hoạch cho các tác vụ phức tạp, kéo dài thay vì chỉ phản ứng theo từng khoảnh khắc. Lập kế hoạch phân cấp kiểu này vẫn là một trong những phần khó nhất và ít được giải quyết nhất của toàn bộ chương trình.
Hệ sinh thái JEPA đang mở rộng
Dù các mô hình nổi bật đến từ Meta và tập trung vào hình ảnh và video, ý tưởng JEPA đã lan nhanh trong giới nghiên cứu, vì nguyên lý cốt lõi, dự đoán biểu diễn thay vì dữ liệu, áp dụng được cho gần như mọi loại tín hiệu. Hiện đã có các mô hình kiểu JEPA cho âm thanh, đôi khi được gọi là A-JEPA, và một biến thể chuyển động - nội dung, MC-JEPA, học đồng thời đặc trưng hình ảnh và luồng quang học (optical flow). Các nhà nghiên cứu đã áp dụng kiến trúc này cho đám mây điểm (point cloud) và dữ liệu 3D, cho đồ thị, cho dữ liệu không gian địa lý, cho chuỗi thời gian, và thậm chí cho hệ thống gợi ý, nơi nó được dùng để học biểu diễn hành vi người dùng.
Không phải tất cả đều đã hoàn thiện, và nhiều trong số đó là thử nghiệm ban đầu. Nhưng độ rộng này là dấu hiệu cho thấy JEPA đang dần trở thành một mẫu thiết kế tổng quát cho học tự giám sát hơn là một mô hình đơn lẻ, thứ mà một nhà nghiên cứu ở lĩnh vực mới có thể tìm đến và điều chỉnh. Mẫu thiết kế luôn giống nhau: mã hóa hai góc nhìn có liên quan, dự đoán biểu diễn này từ biểu diễn kia, và dùng một sự bất đối xứng hoặc một bộ điều chuẩn để giữ cho các biểu diễn không bị sụp đổ.
JEPA và mô hình ngôn ngữ lớn: khác nhau thế nào?
Vì các mô hình ngôn ngữ lớn đang chi phối các cuộc thảo luận, cần nói chính xác JEPA khác chúng thế nào, bởi sự tương phản này là cốt lõi trong lập luận của LeCun.
Mô hình ngôn ngữ lớn được huấn luyện để dự đoán token tiếp theo trong một chuỗi văn bản, trong không gian của từ ngữ. Nó hoạt động cực kỳ tốt với ngôn ngữ, vốn rời rạc, tuần tự và phần lớn do con người tạo ra, và đã tạo ra những hệ thống mạnh mẽ cho viết lách, lập trình và trả lời câu hỏi. Lời phê bình của LeCun không phải là cách này vô dụng, mà là nó không phù hợp để hiểu thế giới vật lý, vốn liên tục, nhiều chiều và đầy những chi tiết mà không mô hình nào có thể xác định chính xác theo từng từ hay từng điểm ảnh.
| Khía cạnh | Mô hình ngôn ngữ lớn | JEPA |
|---|---|---|
| Dự đoán | Token tiếp theo, dưới dạng từ ngữ | Biểu diễn của các phần còn thiếu |
| Hoạt động trong | Không gian đầu vào | Không gian embedding |
| Đầu ra | Văn bản hoặc dữ liệu được sinh ra | Không sinh dữ liệu, chỉ là một dự đoán nội tại |
| Mạnh ở | Ngôn ngữ, mã nguồn, suy luận trên văn bản | Nhận thức, động lực học vật lý, lập kế hoạch |
| Yếu hơn ở | Hiểu biết vật lý gắn với thực tế | Ngôn ngữ và khả năng sinh đã hoàn thiện |
JEPA đi theo lập trường ngược lại. Nó dự đoán trong một không gian biểu diễn trừu tượng, loại bỏ những gì không thể biết trước, và được thiết kế ngay từ đầu để mô hình hóa thực tại liên tục và hỗ trợ lập kế hoạch. Hai cách tiếp cận không hẳn là đối thủ, và nhiều người tin rằng tương lai sẽ kết hợp cả hai, với một giao diện ngôn ngữ ở trên và một mô hình thế giới gắn với thực tế ở bên dưới. Nhưng triết lý nền tảng thực sự khác nhau: một bên dự đoán hình thức bề mặt của dữ liệu, bên kia dự đoán ý nghĩa trừu tượng của nó, và cuộc tranh luận xem đâu là nền tảng tốt hơn cho trí tuệ tổng quát là một trong những cuộc tranh luận quan trọng nhất trong AI hiện nay.
Ưu điểm và hạn chế của JEPA
Như mọi cách tiếp cận khác, JEPA có những ưu điểm thực sự và những câu hỏi mở cũng thực sự không kém, và một bức tranh trung thực cần cả hai.
Ưu điểm của nó là hiệu quả, vì không lãng phí năng lực vào việc dự đoán chi tiết không thể dự đoán; chất lượng đặc trưng, vốn nắm bắt ý nghĩa thay vì vẻ bề ngoài và chuyển giao tốt sang các tác vụ mới; sự độc lập với tăng cường dữ liệu thủ công, ít nhất ở các mô hình hình ảnh và video; và sự phù hợp tự nhiên với mô hình thế giới và lập kế hoạch, vì nó dự đoán cách các biểu diễn biến đổi. Đây không chỉ là lý thuyết. Việc V-JEPA 2 biến video thụ động thành khả năng điều khiển robot zero-shot là minh chứng cụ thể rằng cách tiếp cận này có thể vươn xa hơn nhận thức để tiến vào hành động.
Các hạn chế cũng quan trọng không kém. JEPA vẫn là một hướng nghiên cứu non trẻ so với thế giới mô hình sinh đã trưởng thành và được triển khai rộng rãi, và phần lớn tầm nhìn lớn hơn của LeCun về những cỗ máy tự chủ, biết suy luận vẫn chưa được chứng minh. Ngăn chặn sụp đổ và chọn đúng mức độ trừu tượng đòi hỏi kỹ thuật cẩn trọng. Lập kế hoạch bằng một mô hình thế giới học được là việc khó và cho đến nay mới hoạt động trong các bối cảnh khá hạn chế. Không có giao diện ngôn ngữ phong phú như ở các mô hình ngôn ngữ lớn, nên các mô hình JEPA thường được kết hợp với các hệ thống khác để giao tiếp với con người. Và có sự bất đồng khoa học thực sự về việc liệu dự đoán trong không gian biểu diễn có mang lại bước nhảy vọt về suy luận như những người ủng hộ kỳ vọng, hay, giống nhiều kiến trúc đầy hứa hẹn trước đó, sẽ tỏ ra khó mở rộng quy mô hơn vẻ ngoài. JEPA là một canh bạc nghiêm túc, chưa phải một kết quả đã ngã ngũ.
JEPA đang đi về đâu: AMI Labs và cuộc đua mô hình thế giới
Dấu hiệu rõ ràng nhất cho thấy JEPA hiện được nhìn nhận nghiêm túc đến mức nào là nơi mà cha đẻ của nó đã đến. Cuối năm 2025, Yann LeCun tuyên bố rời Meta sau hơn một thập kỷ dẫn dắt bộ phận nghiên cứu AI nền tảng của hãng, một phần vì ông muốn tập trung vào mô hình thế giới thay vì cạnh tranh trong mảng mô hình ngôn ngữ lớn. Ông đồng sáng lập một startup, AMI Labs, viết tắt của Advanced Machine Intelligence, đặt trụ sở tại Paris, để trực tiếp theo đuổi chương trình mô hình thế giới dựa trên JEPA.
Đầu năm 2026, công ty huy động được hơn một tỷ đô la vốn hạt giống với mức định giá khoảng ba tỷ rưỡi đô la, được cho là vòng gọi vốn hạt giống lớn nhất trong lịch sử châu Âu, dựa trên luận điểm rằng học các mô hình trừu tượng về thực tại, thay vì dự đoán token, là con đường dẫn tới những hệ thống có thể hiểu, ghi nhớ, suy luận và lập kế hoạch. Niềm tin được công ty tuyên bố rất thẳng thắn: trí tuệ thực sự không bắt đầu từ ngôn ngữ, nó bắt đầu từ thế giới. AMI không đơn độc. Những nỗ lực được rót vốn mạnh khác, bao gồm World Labs của Fei-Fei Li và các nghiên cứu tại Google, đang theo đuổi mô hình thế giới từ những góc độ khác nhau, và Meta tiếp tục phát triển dòng JEPA mà hãng đã khởi đầu.
Liệu canh bạc này có thành công hay không sẽ cần nhiều năm để đánh giá, và chính những người ủng hộ nó cũng thừa nhận điều đó. Nhưng hướng đi đã được định hình. Sau một giai đoạn mà việc dự đoán token tiếp theo định nghĩa cả lĩnh vực, một phong trào nghiêm túc và có nguồn lực dồi dào đang lập luận rằng bước tiến lớn tiếp theo là học cách dự đoán thế giới ở mức trừu tượng, và JEPA là kiến trúc nằm ở trung tâm của lập luận đó.
Những hiểu lầm phổ biến về JEPA
Một vài hiểu lầm thường xuất hiện, và làm rõ chúng giúp bức tranh sắc nét hơn.
- JEPA không phải một mô hình đơn lẻ. Nó là một kiến trúc, một họ mô hình. I-JEPA, V-JEPA và V-JEPA 2 là các mô hình cụ thể được xây dựng trên nó.
- JEPA không phải mô hình sinh. Nó không tạo ra hình ảnh, video hay văn bản. Nó dự đoán các biểu diễn và không bao giờ giải mã chúng trở lại thành dữ liệu, và đó chính là mấu chốt.
- JEPA không giống học tương phản. Hai cách này có liên quan và đều hoạt động trong không gian embedding, nhưng các phương pháp tương phản so sánh các cặp và dựa vào mẫu âm, còn JEPA dự đoán một embedding từ embedding khác và trên thực tế tránh dùng mẫu âm.
- JEPA chưa thay thế các mô hình ngôn ngữ lớn, và tự bản thân nó không suy luận như con người. Tầm nhìn lớn về những cỗ máy tự chủ, biết lập kế hoạch là một chương trình nghiên cứu, không phải một sản phẩm đã phát hành.
- Dự đoán trong không gian biểu diễn không chỉ là cách tiết kiệm tài nguyên tính toán. Nó thay đổi những gì mô hình học được, đẩy mô hình hướng về ý nghĩa và tránh xa nhiễu.
Bảng thuật ngữ quan trọng
Embedding (biểu diễn) Một danh sách số gọn nhẹ nắm bắt ý nghĩa hoặc đặc trưng của một đầu vào thay vì hình thức thô của nó. Không gian tiềm ẩn (latent space) Không gian trừu tượng nơi các embedding tồn tại. Dự đoán trong không gian tiềm ẩn nghĩa là làm việc với các biểu diễn này thay vì điểm ảnh hay token. Học tự giám sát (self-supervised learning) Học từ dữ liệu không gán nhãn bằng cách che đi một phần đầu vào và dự đoán phần đó từ phần còn lại, không cần nhãn do con người tạo. Encoder Một mạng nơ-ron biến đầu vào thành embedding. Predictor Mạng trong JEPA ước lượng embedding mục tiêu từ embedding ngữ cảnh. Target encoder Encoder thứ hai, dùng ở phía mục tiêu, có trọng số là trung bình trượt chậm của encoder chính. Nó giúp ngăn sụp đổ. Trung bình trượt hàm mũ (EMA) Một cách cập nhật trọng số để chúng bám theo một mạng khác một cách chậm rãi và mượt mà thay vì nhảy vọt. Vision Transformer (ViT) Một mạng nơ-ron xem bức ảnh như một lưới các mảng và xử lý chúng bằng cơ chế attention. Đây là backbone của các mô hình JEPA cho hình ảnh và video. Mô hình dựa trên năng lượng (energy-based model) Mô hình học một hàm năng lượng cho giá trị thấp với các đầu vào tương thích và giá trị cao với các đầu vào không tương thích. Năng lượng của JEPA là sai số dự đoán của nó trong không gian embedding. Sụp đổ biểu diễn (representation collapse) Thất bại khi encoder xuất ra cùng một embedding hằng số cho mọi đầu vào, khiến các biểu diễn trở nên vô dụng. Mô hình thế giới (world model) Một mô hình nội tại về cách một môi trường vận hành, dùng để dự đoán kết quả và lập kế hoạch hành động. Điều khiển dự báo theo mô hình (model-predictive control) Một phương pháp lập kế hoạch hình dung kết quả của các chuỗi hành động ứng viên, chọn chuỗi tốt nhất, thực hiện bước đầu tiên và lặp lại. Biến tiềm ẩn (latent variable) Một đầu vào bổ sung cho predictor, ký hiệu z, đại diện cho thông tin mà ngữ cảnh không chứa, chẳng hạn vị trí của mục tiêu.Câu hỏi thường gặp
Joint Embedding Predictive Architecture (JEPA) là gì?
JEPA là một kiến trúc học tự giám sát, dự đoán biểu diễn trừu tượng của một phần đầu vào từ một phần khác, thay vì tái tạo điểm ảnh hay token thô. Nó mã hóa cả hai đầu vào thành embedding và huấn luyện một predictor để ước lượng embedding mục tiêu, giúp mô hình tập trung vào cấu trúc có ý nghĩa và bỏ qua chi tiết không thể dự đoán. JEPA được Yann LeCun đề xuất năm 2022.
Ai đã phát minh ra JEPA?
JEPA được đề xuất bởi Yann LeCun, khi đó là nhà khoa học trưởng về AI của Meta và là người đoạt giải Turing, trong bài viết quan điểm năm 2022 A Path Towards Autonomous Machine Intelligence. Các nhóm nghiên cứu của Meta sau đó đã xây dựng những mô hình hoạt động đầu tiên, gồm I-JEPA, V-JEPA và V-JEPA 2.
JEPA có phải là AI tạo sinh không?
Không. JEPA không phải mô hình sinh. Nó không tạo ra hình ảnh, video hay văn bản. Nó dự đoán biểu diễn của các phần còn thiếu trong đầu vào và không bao giờ giải mã dự đoán đó trở lại thành dữ liệu thô, đó chính là toàn bộ ý nghĩa của thiết kế và là nguồn gốc phần lớn hiệu quả của nó.
JEPA khác mô hình ngôn ngữ lớn thế nào?
Mô hình ngôn ngữ lớn dự đoán token tiếp theo trong một chuỗi từ ngữ, trong không gian đầu vào. JEPA dự đoán trong một không gian biểu diễn trừu tượng và loại bỏ chi tiết không thể dự đoán, điều mà những người ủng hộ cho rằng gần với cách con người xây dựng mô hình thế giới hơn. LeCun lập luận rằng chỉ dự đoán token thì không thể đạt tới mức hiểu biết ngang con người về thế giới vật lý.
I-JEPA, V-JEPA và V-JEPA 2 là gì?
I-JEPA (2023) áp dụng JEPA cho hình ảnh, dự đoán biểu diễn của các vùng ảnh bị che. V-JEPA (2024) mở rộng nó sang video. V-JEPA 2 (2025) là một mô hình thế giới video lớn hơn, được huấn luyện trên hơn một triệu giờ video internet, có khả năng hiểu, dự đoán và lập kế hoạch, và đã được dùng để điều khiển robot theo kiểu zero-shot.
V-JEPA 2-AC là gì và nó lập kế hoạch hành động cho robot thế nào?
V-JEPA 2-AC là phiên bản có điều kiện hành động của V-JEPA 2, được tinh chỉnh trên khoảng sáu mươi hai giờ video robot. Nó dự đoán trạng thái tiềm ẩn của thế giới thay đổi thế nào khi robot thực hiện một hành động. Để lập kế hoạch, nó hình dung kết quả của nhiều chuỗi hành động trong không gian tiềm ẩn, chấm điểm từng chuỗi so với một hình ảnh mục tiêu, và thực thi chuỗi hành động có kết quả dự đoán gần mục tiêu nhất.
Vì sao JEPA dự đoán trong không gian biểu diễn thay vì không gian điểm ảnh?
Thế giới vật lý đầy những chi tiết không thể dự đoán chính xác, chẳng hạn chuyển động chính xác của từng chiếc lá. Buộc một mô hình dự đoán từng điểm ảnh sẽ lãng phí năng lực của nó vào nhiễu này. Dự đoán trong không gian biểu diễn cho phép encoder loại bỏ những phần không thể dự đoán và chỉ giữ lại cấu trúc có ý nghĩa, có thể dự đoán được.
Sụp đổ biểu diễn trong JEPA là gì?
Sụp đổ biểu diễn là thất bại khi encoder học cách xuất ra cùng một embedding hằng số cho mọi đầu vào, khiến sai số dự đoán bằng không một cách tầm thường nhưng các biểu diễn thì vô dụng. Các mô hình JEPA tránh điều này bằng những kỹ thuật như target encoder bất đối xứng được cập nhật bằng trung bình trượt, hoặc điều chuẩn để giữ cho embedding giàu thông tin.
Embedding hay không gian tiềm ẩn là gì?
Embedding là một danh sách số gọn nhẹ nắm bắt ý nghĩa hoặc đặc trưng của một đầu vào thay vì hình thức thô của nó. Không gian tiềm ẩn là không gian trừu tượng nơi các embedding này tồn tại. JEPA hoạt động hoàn toàn trong không gian tiềm ẩn, dự đoán một embedding từ embedding khác thay vì tái tạo dữ liệu gốc.
JEPA có phải là mô hình thế giới không?
JEPA là kiến trúc được dùng để xây dựng mô hình thế giới, tức những mô hình nội tại dự đoán một môi trường sẽ thay đổi ra sao. V-JEPA 2 là một ví dụ về mô hình thế giới dựa trên JEPA có thể dự đoán kết quả và lập kế hoạch hành động. Năm 2026, startup AMI Labs của Yann LeCun đã huy động hơn một tỷ đô la để xây dựng mô hình thế giới dựa trên những ý tưởng này.
JEPA có phải mã nguồn mở không?
Các mô hình hình ảnh và video xây dựng trên JEPA, gồm I-JEPA, V-JEPA và V-JEPA 2, đã được Meta phát hành công khai để cộng đồng nghiên cứu sử dụng và phát triển tiếp. Tầm nhìn rộng hơn về trí tuệ máy tự chủ hiện cũng đang được startup AMI Labs của Yann LeCun theo đuổi trên phương diện thương mại.
Tóm lại
Về cốt lõi, Joint Embedding Predictive Architecture là một ý tưởng rõ ràng: dự đoán dữ liệu có ý nghĩa gì, chứ không phải nó trông như thế nào. Bằng cách làm việc trong một không gian biểu diễn trừu tượng và chủ động loại bỏ những chi tiết không thể dự đoán, JEPA hướng tới cách học giống như con người dường như vẫn học, tức xây dựng một mô hình nội tại hiệu quả về thế giới từ quan sát. Mô hình đó sau đó có thể được dùng không chỉ để nhận biết và hiểu, mà còn để dự đoán kết quả và lập kế hoạch hành động, như V-JEPA 2 đã chứng minh khi lập kế hoạch chuyển động cho robot thực.
Đây chưa phải công nghệ hoàn thiện, và cũng không chắc chắn sẽ mang lại khả năng suy luận ngang con người như những người ủng hộ kỳ vọng. Nhưng nó là một câu trả lời mạch lạc và ngày càng được đầu tư mạnh cho một hạn chế thực sự của các hệ thống hiện nay, và chặng đường từ hình ảnh của I-JEPA đến khả năng lập kế hoạch robot của V-JEPA 2 cho thấy tiến bộ đều đặn, cụ thể. Dù JEPA có trở thành con đường dẫn tới trí tuệ tổng quát hơn hay không, nó đã định hình lại một câu hỏi trung tâm của AI: không phải làm sao dự đoán mẩu dữ liệu tiếp theo, mà làm sao học cách hiểu thế giới đủ tốt để hành động trong đó.
Nguồn tham khảo và đọc thêm
- Yann LeCun, A Path Towards Autonomous Machine Intelligence (2022), bài viết quan điểm giới thiệu JEPA, đăng trên OpenReview.
- Meta AI, I-JEPA: mô hình AI đầu tiên dựa trên tầm nhìn của Yann LeCun.
- Meta AI, V-JEPA: bước tiếp theo hướng tới trí tuệ máy tiên tiến.
- Assran và cộng sự, V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning (2025).
- Meta AI, Trang nghiên cứu V-JEPA 2 và bản phát hành mô hình.
