Hệ thống gợi ý của TikTok là một trong những ví dụ điển hình nhất của AI system ở quy mô cực lớn. Với hàng tỷ người dùng và hàng triệu video, TikTok phải cá nhân hóa nội dung gần như theo thời gian thực, dựa trên từng tương tác nhỏ của người dùng.
Tổng quan hệ thống
Khác với các nền tảng truyền thống, TikTok không dựa nhiều vào social graph mà tập trung vào hành vi người dùng. Mỗi lần xem, dừng, hoặc bỏ qua video đều trở thành tín hiệu quan trọng.
Data streaming
TikTok thu thập dữ liệu dưới dạng streaming: watch time, click, like, share và skip. Watch time đặc biệt quan trọng vì nó phản ánh mức độ quan tâm thực sự.
Embedding và biểu diễn
Người dùng và video được biểu diễn dưới dạng vector embedding trong cùng không gian. Điều này cho phép hệ thống tính toán độ tương đồng nhanh chóng.
Candidate generation
Do số lượng video quá lớn, hệ thống cần lọc nhanh một tập nhỏ ứng viên bằng các kỹ thuật như ANN search và collaborative filtering.
Candidate generation ưu tiên tốc độ, không cần quá chính xác.
Ranking
Sau khi có candidate, hệ thống sử dụng các mô hình deep learning để xếp hạng. Các mục tiêu như CTR và watch time được tối ưu đồng thời thông qua multi-task learning.
Serving
Hệ thống serving phải cực nhanh, thường chỉ vài chục mili giây. Caching và feature lookup giúp giảm độ trễ đáng kể.
Feedback loop
TikTok liên tục cập nhật model dựa trên phản hồi người dùng. Các kỹ thuật như A/B testing và bandit algorithms giúp cân bằng giữa khám phá và khai thác.
Scaling
Để phục vụ hàng tỷ request mỗi ngày, hệ thống sử dụng distributed systems, GPU clusters và streaming pipelines. Đây là yếu tố quyết định khả năng mở rộng.
Kết luận
Hệ thống recommendation của TikTok là sự kết hợp hoàn hảo giữa dữ liệu thời gian thực, mô hình học sâu và hạ tầng quy mô lớn. Đây là tiêu chuẩn vàng cho các hệ thống AI hiện đại.