Cuộc chiến về “học máy”: Meta đã vượt mặt Google!

Vào năm 2015, một dự án nghiên cứu nhỏ của Google có tên là TensorFlow, được tạo ra từ nhóm phát triển trí tuệ nhân tạo Google Brain, giúp cho Google cơ bản tạo ra được hệ sinh thái cho học máy hiện đại. Sau đó, nó trở lên phổ biến và giúp cho công ty trở thành “ông trùm” quản lý các sản phẩm AI chính thống.

Tuy nhiên, hiện tại câu chuyện đã thay đổi, khi vị thế của Google đã bị rơi vào tay Meta, bao gồm cả trái tim lẫn trí óc của các nhà phát triển.

Nếu như trước kia TensorFlow của Google là một công cụ học máy được biết đến rộng rãi thì nay máy PyTorch của Meta đã vượt xa TensorFlow và được biết đến như người dẫn đầu trong lĩnh vực này. Được biết, PyTorch phát triển lần đầu tiên tại Facebook và năm 2017 thì có nguồn mở ở dạng beta.

Trong khi Google mắc phải hàng loạt chiến lược sai lầm khiến cho các chuyên gia đánh giá Google không còn tương lai để có thể định hướng cho lĩnh vực học máy trên Internet, thì phía Meta lại có những bước phát triển phù hợp và nổi bật trong cộng đồng mã nguồn mở.

Máy PyTorch trở thành công cụ phát triển máy học phổ biến với các nhà phát triển bình thường và các nhà nghiên cứu khoa học.

Hiện tại, một framework học máy mới có tên là JAX được Google âm thầm cho xây dựng dưới cái bóng của PyTorch. JAX lúc đầu được viết tắt của cụm từ "Just After eXecution" , tuy nhiên sau đó cụm từ này đã được xóa bỏ và nhiều người ví nó như là thế hệ kế thừa của TensorFlow.

Theo như nguồn tin của những người thân cận với dự án, nhằm mở đường cho JAX, việc mở rộng TensorFlow đã bị Google Brain và công ty con DeepMind AI của Google từ chối. Tại Google Brain và DeepMind, hiện JAX đã được đưa sử dụng rộng rãi, theo xác nhận của một đại diện của Google.

Cũng theo như chia sẻ từ những người trong cuộc, lúc đầu JAX không được đón nhận nhiệt tình từ nội bộ, những nhân viên của Google đã quen với việc dùng TensorFlow mặc dù sử dụng JAX khá đơn giản. Dù sao thì họ cũng cho rằng điều này cũng khiến cho Google thay đổi cách xây dựng phần mềm nội bộ.

Các chuyên gia về dự án cho biết, trong những năm tới JAX được đặt kỳ vọng sẽ là nền tảng của toàn bộ các sản phẩm sử dụng máy móc của Google, như cách thức mà TensorFlow đã từng làm vào cuối năm 2010.

Dường như JAX đã vượt ra khỏi tầm kiểm soát của Google, khi công ty phần mềm đám mây Salesforce cho biết họ đã sử dụng nó trong các nhóm nghiên cứu của mình.

Viral Shah - người tạo ra ngôn ngữ lập trình Julia (thường được giới chuyên gia so sánh với JAX) cho biết: “JAX là một công trình lớn của kỹ thuật".

"Theo quan điểm của tôi, JAX giống như một ngôn ngữ lập trình đặc biệt sẽ được khởi tạo dựa trên Python. JAX có thể làm được những điều tuyệt vời nến như bạn tuân thủ các quy tắc mà nó yêu cầu. Và những gì nó có thể làm được thật phi thường”.

Rút ra bài học kinh nghiệm từ những sai lầm trong quá trình phát triển TensorFlow, hiện Google kỳ vọng JAX sẽ khiến họ một lần nữa thành công. Tuy nhiên với sự có mặt của Meta và PyTorch, các chuyên gia e rằng đó sẽ là thách thức lớn đối với Google.

Sự vươn lên của PyTorch và tĩnh lặng của TensorFlow

Nhiều dữ liệu cho thấy PyTorch có tầm ảnh hưởng lớn và sắp đuổi kịp TensorFlow. Dựa vào mức độ tương tác Stack Overflow để đánh giá sự phổ biến, trên các diễn đàn của các nhà phát triển cho thấy tỷ lệ câu hỏi cho TensorFlow đang bị chững lại trong vài năm gần đây, còn đối với PyTorch thì mức độ tương tác lại ngày càng tăng.

Khi mới xuất hiện, TensorFlow bùng nổ và phát triển mạnh mẽ, chỉ riêng tháng 11/2020 nó được tải xuống 160 triệu lần. Các công ty lớn như Uber và Airbnb hay NASA chọn và bắt đầu áp dụng nó cho những dự án phức tạp nhất.

Sau đó, theo như các nhà phát triển chia sẻ, Google liên tục cập nhật các tính năng khủng khiếp làm cho TensorFlow trở nên khó khăn trong sử dụng, đồng thời không gần gũi với người dùng. Khi các lĩnh vực học máy phát triển nhanh chóng khiến cho Google thường xuyên phải cập nhật hệ thống. Khi người tham gia càng đông, dự án lại càng nới rộng, gây ra thiếu tập trung cho những thành phần chủ chốt ban đầu.

Mặt khác, vào năm 2018 từ nghiên cứu trí tuệ nhân tạo của Facebook, PyTorch tung ra thị trường với phiên bản đầy đủ. Cả TensorFlow và PyTorch đề hình thành dựa trên Python. Đây là ngôn ngữ mà các chuyên gia học máy ưa chuộng. Và Meta (hay Facebook trước đây) đã tập trung nhiều nguồn đầu tư phục vụ cộng đồng nguồn mở. Chính vì vậy, PyTorch cũng được hưởng lợi  ích từ mức độ tập trung vào việc làm tốt, nhưng TensorFlow lại không để ý tới.

Một kỹ sư nghiên cứu tại công ty khởi nghiệp máy học, Patrick von Platen cho hay: “PyTorch được cộng đồng đón nhận nhiệt tình nhất và chúng tôi đa phần áp dụng PyTorch”.

“Chúng tôi nghĩ rằng PyTorch đang thực hiện mã nguồn mở khá tốt. Các thắc mắc được họ đảm bảo trả lời trực tuyến. Mọi ví dụ đều được kích hoạt. PyTorch luôn luôn có cách tiếp cận dẫn đầu”, Hugging Face đưa ra bình luận.

Một số tổ chức lớn như Tesla và Uber cũng đang triển khai PyTorch cho  những dự án nghiên cứu máy học phức tạp nhất của họ.

JAX, kỳ vọng của phía trước của Google

Cuộc đua giữa PyTorch và TensorFlow vẫn đang tiếp tục diễn ra, một đơn vị xử lý tensor hoặc TPU được một nhóm nghiên cứu nhỏ của Google giúp truy cập đơn giản hơn vào các chip được xây dựng tùy chỉnh, nó đặt nền móng cho phương pháp tiếp cận trí tuệ nhân tạo và chỉ có thể truy cập được nhờ TensorFlow.

Nhóm nghiên cứu gồm 4 người Roy Frostig, Matthew James Johnson và Chris Leary, năm 2018 đã cho ra một bài báo với tiêu đề "Biên dịch các chương trình học máy bằng việc tìm kiếm cấp cao", những nội dung đó đã nằm trong JAX sau này.

Là một trong những tác giả ban đầu của PyTorch khi còn làm việc tại Facebook đồng thời khi còn là sinh viên từng làm việc với Johnson vào năm 2019, Adam Paszke đã gia nhập vào nhóm JAX đầu năm 2020.

JAX được thiết kế đơn giản hơn nhằm giải quyết một trong những tình huống khó khăn nhất của lĩnh vực học máy, phân chia công việc vấn đề lớn trên nhiều chip. JAX tự động phân chia các hoạt động thay vì xử lý các đoạn mã riêng lẻ cho các chip riêng biệt. Nó cho phép bạn làm bất kỳ điều gì bạn cần và truy cập nhanh chóng vào nhiều TPU.

JAX đã giải quyết một vấn đề cơ bản của Google mà các nhà nghiên cứu phải đau đầu khi nghiên cứu các vấn đề ngày càng lớn và cần sử dụng quá nhiều sức mạnh tính toán.

Google đối mặt với thách thức lớn từ chiến lược của Meta với PyTorch

Cùng bắt đầu từ một cách, PyTorch và TensorFlow ban đầu là các dự án nghiên cứu, dần dần trở thành các tiêu chuẩn máy học. Và sau đó, chúng được các nhà nghiên cứu đã đưa đến phần còn lại của thế giới.

Tuy vậy, JAX phải đương đầu với không ít khó khăn. Nó vẫn dựa trên các framework khác theo nhiều hình thức. JAX bị phía các nhà phát triển và chuyên gia chỉ ra rằng không nêu ra cách tải dữ liệu và xử lý trước dữ liệu một cách đơn giản, điều đó khiến cho TensorFlow hoặc PyTorch phải giải quyết tương đối nhiều quá trình thiết lập.

Chủ yếu khung cơ bản của JAX, XLA đang được tối ưu hóa cao cho các TPU của Google. Nó cũng hoạt động với GPU và CPU truyền thống không ít, tuy nhiên mức hoạt động chưa thể bằng với TPU.

Việc tập trung vào TPU nguyên nhân là do sự nhầm lẫn về tổ chức và chiến lược từ năm 2018 đến năm 2021, dẫn đến không đầu tư và ưu tiên cho hỗ trợ GPU đồng thời chưa có sự hợp tác với nhà cung cấp GPU lớn. Những điều này đang được cải thiện nhanh chóng, theo người phát ngôn của Google cho biết.GPU đang thiếu những vòng phản hồi tốt do những nghiên cứu nội bộ của Google chỉ tập trung chủ yếu vào TPU.

Andrew Feldman - CEO của Cerebras Systems (một công ty khởi nghiệp tương đương với 4 tỷ USD), cho biết: “Dù là hành động gì được thực hiện với mục đích tạo ra lợi thế của phần cứng này hơn so với phần cứng khác sẽ được coi là hành vi xấu ngay lập tức và nhận được phản kháng trong cộng đồng mã nguồn mở”.

"Không một ai muốn bị trói buộc trong duy nhất một nhà cung cấp phần cứng, vậy nên mới xuất hiện các framework. Những người thực hành công nghệ máy học muốn chắc chắn rằng mô hình của họ được di động linh hoạt và họ có thể di chuyển chúng đến bất kỳ phần cứng nào họ muốn chứ không chỉ với một nền tảng.”

Ngoài ra, tính từ khi lần đầu tiên TensorFlow bắt đầu có dấu hiệu chậm lại, thì hiện PyTorch đã ra đời được gần 6 năm. Không thể biết trước được rằng liệu dự án của Meta có rơi vào số phận tương tự như phiên bản tiền bối TensorFlow hay không, nhưng đây là thời điểm thích hợp để một cái mới xuất hiện. Cũng theo một chuyên gia cho rằng các nhà phê bình đừng bao giờ coi nhẹ khả năng của "gã khổng lồ trong lĩnh vực tìm kiếm" với thực lực hiện tại của Google.