[Dịch] Terence Tao: Các công ty trí tuệ nhân tạo đang gây hại cho toán học

Các công ty AI đang tạo ra những khám phá toán học mới với tốc độ chóng mặt, nhưng không nán lại để giúp làm sáng tỏ những chứng minh mới. Đó không phải là cách để nâng cao hiểu biết của chúng ta, nhà toán học Terence Tao nói

Terence Tao là người hiểu toán học. Ông có Huy chương Fields – thường được gọi là giải Nobel của toán học – chỉ là một trong nhiều vinh dự của ông. Vì vậy, khi ông nói rằng đột phá toán học gây chấn động gần đây của OpenAI là dấu hiệu cho thấy các công ty công nghệ lớn đang tác động tiêu cực đến lĩnh vực này như thế nào, người ta có lẽ sẽ lắng nghe.

Tuần này, OpenAI công bố lời giải cho bài toán Navier-Stokes, một trong những bài toán hóc búa nhất và lâu đời nhất của toán học. Đây là một trong các Bài toán Thiên niên kỷ, nên giải được nó sẽ đi kèm giải thưởng 1 triệu USD. Tin này là sự kiện mới nhất trong một loạt tiến bộ ngày càng gây sửng sốt và nhanh chóng của toán học, vốn đã tích tụ trong những tháng gần đây.

Nhưng Tao, làm việc tại Đại học California, Los Angeles (UCLA), nói rằng cách các khám phá được tạo ra và bị “đổ” lên cộng đồng toán học có thể thực sự gây hại cho lĩnh vực này.

Ông nói rằng từ trước đến nay luôn có sự cạnh tranh giữa các nhà toán học để trở thành người đầu tiên, điều đó rất tốt vì toán học khó đến mức nó tạo ra một lực hãm tự nhiên để ngăn mọi thứ vượt khỏi tầm kiểm soát. "Giờ đây, không còn giới hạn tốc độ nữa, và đột nhiên mọi thứ đang đổ vỡ", ông nói.

Tao lo rằng các phát hiện mới sẽ tiếp tục ập đến với nhịp độ ngày càng tăng, và sẽ không có thời gian để hấp thụ các kết quả, hiểu đầy đủ về chúng, đưa chúng vào sách giáo khoa và dạy chúng cho sinh viên. Điều này có nghĩa là khả năng đáng kinh ngạc của AI trong việc mang đến cho chúng ta toán học mới có thể thực sự gây hại cho lĩnh vực này, thay vì thúc đẩy nó.

Ông nói rằng toán học cần vượt qua năm rào cản để trở nên hữu ích. Đầu tiên, nó cần được tạo ra, sau đó được kiểm tra, giải thích, chấp nhận và cuối cùng được đưa vào kho tàng kiến thức được giảng dạy cho thế hệ tiếp theo. Ông cho rằng các công ty AI chỉ quan tâm đến hai rào cản đầu tiên.

“Những công ty này đang quăng những khối thịt sống lên chiếc bàn chung của ngôi làng chúng ta và nói: ‘Đây, tôi đã giải quyết vấn đề lương thực của các người rồi.’ Rồi họ cứ thế bỏ đi,” Tao nói.

Ví dụ, ông chỉ ra tình huống xoay quanh Tristan Buckmaster tại Đại học New York và Levent Alpöge tại công ty AI Anthropic. Họ đã “làm việc chậm rãi để đạt được một số kết quả rất đẹp” liên quan đến Navier-Stokes, Tao nói, và đã phát triển một lời giải cho phương trình Euler, họ hàng gần của Navier-Stokes, thứ sẽ đóng vai trò bàn đạp để giải bài toán này. Nhưng họ nói rằng họ buộc phải đột ngột công bố gấp các bài báo – mà theo các nhà toán học nói với New Scientist, chúng thiếu độ rõ ràng mà họ thường mong đợi – sau khi phát hiện OpenAI đã vượt lên trước họ.

Trớ trêu thay, OpenAI chỉ bắt đầu làm việc về bài toán Navier-Stokes sau khi nghe tin đồn về công trình của Buckmaster và Alpöge.

Tao cho rằng điều đang diễn ra là một cuộc chạy đua không mang lại lợi ích cho ai (ngoại trừ có lẽ là các bộ phận tiếp thị của các công ty AI), làm xói mòn tính minh bạch và ưu tiên người về nhất hơn là người đưa ra thông tin chính xác, rõ ràng và súc tích.

“Đây không phải là cách khoa học nên vận hành,” Tao nói. “Họ đang tập trung vào phần vốn dĩ danh giá nhất của toán học, nhưng sau đó lại bỏ qua những công việc ít danh giá hơn như là giải thích, truyền đạt, giảng dạy, phản biện cho các tạp chí – tất cả công việc đó bị bỏ lại cho chúng tôi dọn dẹp, và điều đó thật làm mất tinh thần.”

Ông nói, sự cạnh tranh gia tăng từ AI cũng sẽ đe dọa văn hóa cởi mở và chia sẻ đang tồn tại trong toán học, đồng thời đẩy nghiên cứu vào hoạt động ngầm, vì sợ người khác lao vào ý tưởng của họ và hoàn thành chúng trước khi họ kịp công bố.

“Trước đây, nếu bạn tuyên bố mình đang nghiên cứu một vấn đề nào đó, có lẽ chỉ có khoảng chục người trên thế giới có khả năng vượt trội hơn bạn, và bạn quen biết tất cả họ, gọi nhau bằng tên. Không có động lực nào để chơi xấu đồng nghiệp vì họ cũng sẽ chơi xấu lại bạn,” Tao nói. “Giờ đây, việc biết ai đó đang nghiên cứu một vấn đề là thông tin có giá trị.”

Mặc dù có cái nhìn bi quan, Tao tin rằng các nhà toán học cuối cùng sẽ làm được công việc khó khăn là hiểu, phân loại và giảng dạy các sản phẩm trí tuệ nhân tạo. Ông nói: “Cuối cùng nó sẽ xuất hiện trong sách giáo khoa, nhưng đó là một con đường hoàn toàn tồi tệ.”

Nhấp để mở rộng...

toán học cần sự sáng tạo và tư duy gốc chứ mấy cái mô hình hiện tại toàn nhặt nhạnh dữ liệu cũ ráp lại với nhau, lạm dụng quá khéo lại cùn cả tư duy

Tuyên bố chung về

Sự sai lệch nghiêm trọng của trí tuệ nhân tạo trong toán học​

Trong vài tháng qua, khả năng toán học của các máy tính đa nhân tạo (LLM) đã được cải thiện đáng kể, đến mức chúng có thể giải quyết được nhiều vấn đề lớn chưa được giải quyết trong nhiều lĩnh vực toán học. Tuy nhiên, việc các công ty AI thúc đẩy giải quyết các bài toán toán học như một tiêu chuẩn (benchmark) lại gây bất lợi cho khoa học toán học và cộng đồng toán học. Mục tiêu của các công ty AI và mục tiêu của cộng đồng toán học đang hoàn toàn lệch khỏi nhau. Chúng tôi xem đây là một phần của các vấn đề về sự không phù hợp rộng hơn, ảnh hưởng đến các ngành nghề khoa học và sáng tạo khác, cũng như toàn xã hội.

Toán học nghiên cứu tập trung vào việc hiểu các cấu trúc cơ bản của hình dạng, số và hiện tượng tự nhiên. Trải qua nhiều thế hệ, ngành này đã xây dựng nên một kho tàng đồ sộ các ý tưởng, phương pháp, khái niệm trừu tượng và các công cụ phức tạp khác để nắm bắt bức tranh toán học. Ngược lại, các công nghệ và khoa học hiện đại đều dựa trên các công cụ toán học.

Những bài toán nổi tiếng thường đóng vai trò như những cột mốc và ngọn hải đăng để đánh giá sự tiến bộ trong hiểu biết về lĩnh vực này. Giải quyết được một trong những bài toán đó là dấu hiệu chắc chắn của những hiểu biết mới và các phương pháp thú vị, sau đó sẽ được cộng đồng các nhà toán học nghiên cứu thông qua một quá trình dài và gian khổ gồm các cuộc thảo luận, bàn luận và đơn giản hóa. Kết thúc quá trình này, lý tưởng nhất là sẽ tìm thấy một bài trình bày kết quả dưới dạng sách giáo khoa phù hợp cho bất kỳ sinh viên cao học hay thậm chí sinh viên đại học nào nghiên cứu. Một số ý tưởng toán học còn tiếp tục hành trình của mình, trở thành những công cụ được toàn dân hiểu và sử dụng hàng chục hoặc hàng thế kỷ sau đó.

Cộng đồng toán học, về nhiều mặt, hoạt động như một phiên bản thu nhỏ của nhân loại. Nó bao gồm các cá nhân sử dụng nhiều phương pháp khác nhau, được kết nối bởi các giá trị cốt lõi. Nguồn lực quý giá nhất của nghề nghiệp chúng ta là sinh viên và các ý tưởng, và chúng ta nuôi dưỡng chúng với sự cẩn trọng tối đa. Chúng ta cảm thấy có trách nhiệm để cho chúng phát triển hết tiềm năng, cho đến khi chúng có thể tự lập trong thế giới toán học. Đối với sinh viên, chúng ta thường đề xuất các bài toán với mục đích cốt lõi là phát triển các kỹ năng giúp họ có vị thế tốt để tiến bộ trong nghiên cứu và các lĩnh vực khác. Chúng ta truyền bá các ý tưởng của mình thông qua các bài thuyết trình, thảo luận riêng và các bài viết cẩn thận, kết nối chúng với các ý tưởng trước đó của người khác. Những quá trình này luôn cần thời gian và dựa trên sự tương tác giữa con người.

Trong những tháng gần đây, sự thành công của trí tuệ nhân tạo (AI) trong việc giải quyết các bài toán toán học lớn đã trở thành tiêu điểm chú ý ngay cả ngoài giới toán học. Nhưng giải quyết vấn đề chỉ là một công cụ và là phương tiện để đạt được mục tiêu chính là hiểu biết và nắm bắt các khái niệm. Quên đi điều này trong thế giới AI có thể biến công cụ này chống lại mục tiêu chính. Thật vậy, việc sản xuất hàng loạt các câu trả lời "đúng/sai" với tốc độ ngày càng nhanh có thể phá hủy mảnh đất màu mỡ thay vì thổi sức sống vào những ý tưởng mới.

Thông thường, những giải pháp này được công bố vội vàng, không có thời gian để viết bài đầy đủ, phân lập các phương pháp và ý tưởng mới, và trích dẫn các công trình nghiên cứu trước đó có liên quan của người khác. Cũng như trong tất cả các ngành nghề sáng tạo, điều này làm nảy sinh những vấn đề nghiêm trọng về ghi nhận công lao và đạo văn. Hơn nữa, nếu không có những nhà toán học sẵn lòng chăm lo cho sự phát triển và tích hợp chúng vào hệ thống toán học cổ điển, các ý tưởng do AI nghĩ ra sẽ không bao giờ được hiện thực hóa hoàn toàn và chuỗi truyền đạt kiến thức quan trọng giữa các nhà toán học sẽ bị mất đi.

Chúng ta đang chứng kiến một mối đe dọa chung đối với công việc trí tuệ, với sự lệch lạc giữa kết quả sử dụng trí tuệ nhân tạo (AI) và mục đích ban đầu của nó. Trong nhiều lĩnh vực và hoạt động, nhiều năm đào tạo theo truyền thống không chỉ nhằm tạo ra câu trả lời hoặc sản phẩm cuối cùng, mà còn để phát triển sự hiểu biết và khả năng đặt ra những câu hỏi và ý tưởng mới. Tuy nhiên, dựa trên một lượng lớn công trình nghiên cứu trước đó của con người, các hệ thống AI ngày càng có khả năng tạo ra trực tiếp kết quả của những công việc đó, và những mục tiêu này không còn phù hợp với nhau. Các vấn đề mà cộng đồng toán học đang phải đối mặt hiện nay tương tự như các vấn đề mà các ngành khoa học và sáng tạo khác đang gặp phải, và cho thấy những vấn đề mà toàn nhân loại có thể phải đối mặt: làm thế nào để đảm bảo rằng, khi AI thay đổi cách thức làm việc, chúng ta không đánh mất mục tiêu ban đầu mà công việc đó hướng đến.

Trí tuệ nhân tạo (AI) mang đến tiềm năng nâng cao và đẩy nhanh quá trình nghiên cứu và hiểu biết toán học đích thực. Ngành toán học sẽ cần phải thích ứng với những thay đổi này theo nhiều cách. Tuy nhiên, liệu những thay đổi này cuối cùng sẽ mang lại lợi ích hay gây ra tác động tiêu cực cho lĩnh vực này phần lớn sẽ phụ thuộc vào quyết định của những người điều khiển công nghệ mới này.

Những vấn đề này cần được giải quyết khẩn cấp, trong cộng đồng toán học, bởi các công ty phát triển những công nghệ này và, rộng hơn, bởi toàn xã hội, những người sẽ phải đối mặt với những vấn đề tương tự trong nhiều hình thức hoạt động trí tuệ khác.

Artur Avila (Huy chương Fields 2014)
Manjul Bhargava (Huy chương Fields 2014)
Caucher Birkar (Huy chương Fields 2018)
Pierre Deligne (Huy chương Fields 1978)
Yu Deng (Huy chương Fields 2026)
Simon Donaldson (Huy chương Fields 1986)
Hugo Duminil-Copin (Huy chương Fields 2022)
Alessio Figalli (Huy chương Fields 2018)
Martin Hairer (Huy chương Fields 2014)
June Huh (Huy chương Fields 2022)
Maxim Kontsevich (Huy chương Fields 1998)
Elon Lindenstrauss (Huy chương Fields 2010)
Pierre-Louis Lions (Huy chương Fields 1994)
James Maynard (Huy chương Fields 2022)
Curt McMullen (Huy chương Fields 1998)
Shigefumi Mori (Huy chương Fields 1990)
Ngô Bảo Châu (Huy chương Fields 2010)
Andrei Okounkov (Huy chương Fields 2006)
Peter Scholze (Huy chương Fields 2018)
Stanislav Smirnov (Huy chương Fields 2010)
Terence Tao (Huy chương Fields 2006)
Maryna Viazovska (Huy chương Fields 2022)
Cédric Villani (Huy chương Fields 2010)
Wendelin Werner (Huy chương Fields 2006)
Efim Zelmanov (Huy chương Fields 1994)

hại kẹc, giờ bên nước tao học sinh lớp 1 xài AI giải toán đại học phà phà

IQ nhân loại toàn cầu giảm 1000 lần

No shit sherlock. Hehe nhưng mà thế cũng không sao, thế hệ sau tôi sẽ ngu hơn tôi . Éo lo thất nghiệp, còn tương lai thế nào kệ mẹ tương lai

SpaceXAI đã nói:

toán học cần sự sáng tạo và tư duy gốc chứ mấy cái mô hình hiện tại toàn nhặt nhạnh dữ liệu cũ ráp lại với nhau, lạm dụng quá khéo lại cùn cả tư duy

Nhấp để mở rộng...

Ma trận đã nói:

Cộng đồng toán học, về nhiều mặt, hoạt động như một phiên bản thu nhỏ của nhân loại. Nó bao gồm các cá nhân sử dụng nhiều phương pháp khác nhau, được kết nối bởi các giá trị cốt lõi. Nguồn lực quý giá nhất của nghề nghiệp chúng ta là sinh viên và các ý tưởng, và chúng ta nuôi dưỡng chúng với sự cẩn trọng tối đa. Chúng ta cảm thấy có trách nhiệm để cho chúng phát triển hết tiềm năng, cho đến khi chúng có thể tự lập trong thế giới toán học. Đối với sinh viên, chúng ta thường đề xuất các bài toán với mục đích cốt lõi là phát triển các kỹ năng giúp họ có vị thế tốt để tiến bộ trong nghiên cứu và các lĩnh vực khác. Chúng ta truyền bá các ý tưởng của mình thông qua các bài thuyết trình, thảo luận riêng và các bài viết cẩn thận, kết nối chúng với các ý tưởng trước đó của người khác. Những quá trình này luôn cần thời gian và dựa trên sự tương tác giữa con người.

Nhấp để mở rộng...

Khả năng nếu AI cứ phát triển liên tục thế này thì sẽ không còn kiểu nhà khoa học đơn ngành như trước mà sẽ phát triển lên thành nhà khoa học đa ngành vậy (toán - lý).

Nhưng mà cũng phải hạn chế AI ở bậc trước ĐH đổ xuống, thậm chí 1 số ngành phải hạn chế ở bậc ĐH

Tụi nó cứ suốt ngày tuyên truyền kiểu AI nó làm hết, khỏi học hành mất công, rồi trình độ con người ngày càng ngu, rồi để cho mấy thằng trùm đứng sau AI nó điều khiển theo ý muốn.
Còn xứ nào đó, học sinh đã éo có khả năng đọc hiểu rồi, giờ lại nhồi AI cho chúng nó, mai mốt liệt cmn não luôn, IQ chắc còn thua mấy con tinh tinh. Tư duy phản biện éo có, suy luận logic éo có, khả năng phân tích và giải quyết vấn đề éo có, thậm chí còn éo có khả năng đặt câu hỏi. Thật đáng sợ là những đứa như vậy có nguy cơ leo lên làm quan chức rồi xã hội lại lãnh hậu quả do sự ngu si của chúng nó. Một vòng suy thoái vô tận.

dogamer06 đã nói:

Khả năng nếu AI cứ phát triển liên tục thế này thì sẽ không còn kiểu nhà khoa học đơn ngành như trước mà sẽ phát triển lên thành nhà khoa học đa ngành vậy (toán - lý). Nhưng mà cũng phải hạn chế AI ở bậc trước ĐH đổ xuống, thậm chí 1 số ngành phải hạn chế ở bậc ĐH

Nhấp để mở rộng...

Lo bò trắng răng, đến lúc đấy người thành đa ngành chứ AI nó lại dắt mũi cả lũ đi ấy chứ :lô:

sau này các giải fields/thiên niên kỷ...sẽ là cuộc đua giữa các model AI thôi, ông nào train dc con AI giải được mấy bài toán đang bí thì sẽ đoạt giải thưởng và vinh danh

dùng AI nhất trong các lãnh vực lý thuyết như toán, vật lý lý thuyết, sáng tạo như viết tiểu thuyết, vẽ tranh.. thì riết thành thói quen, mất mẹ "tư duy" và "suy luận", mất trực giác luôn... mòn mẹ thần kinh giống như nghiện.

Vấn đề bắt đầu trở nên nghiêm trọng. Có lẽ sớm thôi các chính phủ sẽ bắt tay nhau tạo ra các quy định toàn cầu cho AI. Tập sắp sang gặp Trump về chủ đề này rồi. Phát triển mất kiểm soát không có lợi cho các chính phủ. Việc AI được dễ dàng tiếp cận sẽ khiến các tổ chức cực đoan có được năng lực khoa học công nghệ đáng sợ, giúp nó chế tạo và sản xuất hàng loạt các máy móc, vũ khí nguy hiểm, các công cụ truyền bá tư tưởng cực đoan.

Lại tên ăn hôi lịch sử à

Idol Đặng Vũ đang dự định về quê nuôi cá và trồng thêm rau

Sau khi đấm sml mấy anh thợ code thì giờ đến nhà toán học cũng chung số phận

The Sailer đã nói:

sau này các giải fields/thiên niên kỷ...sẽ là cuộc đua giữa các model AI thôi, ông nào train dc con AI giải được mấy bài toán đang bí thì sẽ đoạt giải thưởng và vinh danh

Nhấp để mở rộng...

Thực ra éo có ai trao giải cho mấy thằng dùng AI giải toán không dùng não. Các giải thưởng sẽ được thiết kế lại, không phải cứ giải được bài toán khó là người ta trao giải. Mỡ đấy mà húp.

ChanTieuNhan đã nói:

Sau khi đấm sml mấy anh thợ code thì giờ đến nhà toán học cũng chung số phận

Nhấp để mở rộng...

Cũng nhờ 2 anh này mà AI khỏe như hôm nay Một pha tự bóp dái

Tóm tắt lại chắc vẫn vấn đề cũ nhỉ.

AI làm mất khả năng sáng tạo. Nhưng nghệ thuật hay hội hoạ thì ko có zì.

Còn nền tảng toán học đi cùng với văn minh loài người éo có hướng đi mới do éo kết hợp dc với AI, AI đè bẹp khả năng tư duy và các vị như ông Châu cũng éo nghĩ ra dc vấn đề gì cho con AI nó giải nên cả 2 nhìn nhau chờ chết.