[Dịch] Terence Tao: Các công ty trí tuệ nhân tạo đang gây hại cho toán học

AnnaHenrietta.02 đã nói:

P=NP có nghĩa là các bài toán kiểm tra được kết quả trong thời gian đa thức thì cũng sẽ giải được trong thời gian đa thức. tuy nhiên một thuật toán chạy trong thời gian đa thức không có nghĩa là nó chạy nhanh, vì bậc đa thức có thể rất lớn

Nhấp để mở rộng...

Horizon2012 đã nói:

Lấy ví sụ đơn giản.

Anh muốn tính phương trình 2x +10=0. Nếu nhà toán học sẽ đi tìm x và ra công thức là x=-(10/2) =-5. Cái quan trọng là tìm ra được phương pháp. Còn AI nó chạy vòng lặp thế số. 0, -1,-2...-5 cho đến khi kết quả phương trình là 0. Nó tìm được đáp án đúng. K ai nói nó sai. Nhưng bản chất nó k tạo ra dc phương án mới tối ưu. Mà chỉ đang dùng phép thử. K có ích nhiều cho đột phá về toán học

Nhấp để mở rộng...

danglinh3009 đã nói:

Thôi anh. Lời giải bài toán thiên niên kỷ của OpenAI được đánh giá là "thanh lịch" kìa. Nó không phải dùng sức mạnh cơ bắp đâu.

Nhấp để mở rộng...

Naruto1001 đã nói:

Vụ này đang bị phốt, nghi vấn ăn cắp ý tưởng của mấy nhà toán học. Kiểu như mấy ông này nghiên cứu gần ra rồi thằng OpenAI ăn cắp ý tưởng đó làm ra trước, nên lùm xùm. Thiên hạ cứ tưởng của AI tất, nhưng thực ra vẫn là ý tưởng của con người, AI nó éo có ý tưởng nào mới cả.

Nhấp để mở rộng...

danglinh3009 đã nói:

Thì bảo công thức vẫn là 1 nhà toán học + 1 con AI mà. 1 mình AI thì nó chỉ giải được toán IMO thôi.

Nhấp để mở rộng...

Horizon2012 đã nói:

Lấy ví sụ đơn giản.

Anh muốn tính phương trình 2x +10=0. Nếu nhà toán học sẽ đi tìm x và ra công thức là x=-(10/2) =-5. Cái quan trọng là tìm ra được phương pháp. Còn AI nó chạy vòng lặp thế số. 0, -1,-2...-5 cho đến khi kết quả phương trình là 0. Nó tìm được đáp án đúng. K ai nói nó sai. Nhưng bản chất nó k tạo ra dc phương án mới tối ưu. Mà chỉ đang dùng phép thử. K có ích nhiều cho đột phá về toán học

Nhấp để mở rộng...

Xen Bo Hung 2428 đã nói:

Cái này giống ngành là ngành xây dựng mình nhiều ông dùng AI để viết tool để làm việc nhưng thấy nó run được ra kết quả là ok mà éo rõ là đúng ko trên cơ sở nào , rồi nhiều ông dùng nó viết fem, nó viết trên mã nguồn mở phi thương mại nhưng nếu ô thương mại hoá nó thì nếu hãng biết hãng kiện chết luôn. Và còn coi đấy là sản phẩm mình viết mới chết chứ Nói chung dùng AI thì rất tốt hỗ trợ nhiều công việc, như mình toàn dùng để dịch, hỗ trợ đọc hiểu tài liệu tiếng trung và dịch ngược khi viết mail, trả lời cdt... Nhưng lạm dụng là chết khi éo rõ kết quả đúng sai, hoặc éo đủ khả năng thẩm định nó đúng hay sai ấy.

Nhấp để mở rộng...

Orion_np đã nói:

Với những gì tôi đã và đang trải nghiệm, quả thực nếu để AI làm những việc cần sự tư duy độc lập của con người thì ngày tàn của loài người là có. Sợ nhất là tư duy đi lùi

Nhấp để mở rộng...

erwin123 đã nói:

Cái fen nói là symbolic AI, nghĩa là con người viết ra các quy tắc cứng rồi để máy làm theo, chạy các tính toán, vòng lặp với điều kiện để tìm ra kết quả. Cái đấy thì là cách vận hành từ xưa đến giờ rồi.

Còn hiện tại AI là nhồi data vào còn lại để máy tự học, tự tìm ra các quy luật. Như cái ví dụ của fen giải cái phương trình ấy, AI không hề biết giải phương trình là cái gì, qua hàng tỷ ví dụ nó sẽ tự tìm ra quy luật và cách để giải, có thể giống cách của con người hoặc có thể không, cái này thì hiện tại vẫn là hộp đen với con người.

Đây là một dạng nén thông tin, kiểu như ngoài tự nhiên có vô vàn chuyển động hỗn loạn của vật nhưng Newton nén lại thành công thức F= ma, thì tương tự Neural Network cũng nén lượng data khổng lồ đầu vào thành các công thức, quy luật, khái niệm của riêng nó vậy.

Còn nhiều người bảo AI chỉ là con vẹt dự đoán từ tiếp theo dựa trên xác suất thì nó kiểu như sờ cái chân con voi rồi đoán con voi giống cái cột đình vậy, nó đúng nhưng không đủ, rõ ràng còn các một đống kiến trúc, nền tảng kiến thức phía sau để tạo nên một con AI hiện tại.

Chỉ riêng việc dự đoán từ tiếp theo nó có một nền tảng lý thuyết thông tin đằng sau, việc dự đoán từ tiếp theo với xác suất cao thì nó sẽ cần ít bit thông tin để biểu diễn hơn, tức là nó đã nén được thông tin, và như tôi nói ở trên có thể nó đã nén được thành một quy luật nào đó như công thức F =ma vậy.

Nhấp để mở rộng...

danglinh3009 đã nói:

Thì các nhà toán học giải Fields không đọc hiểu được lời giải AI nên cho là nó chưa được kiểm chứng kìa. OpenAI nó quan trọng giải đúng bằng ngôn ngữ máy đã. Còn dịch sang ngôn ngữ English thì tính sau.

Nhấp để mở rộng...

Konstante đã nói:

Vấn đề này rất nghiêm trọng (đã được biết trước), và chưa có cách nào thoát ra được với nguyên tắc hoạt động của LLM (AI) hiện tại.

LLM hiện tại được train dựa trên dữ liệu khổng lồ của loài người tích lũy từ trước tới giờ, và "độ tốt" của nó sẽ phụ thuộc vào chính nguồn dữ liệu đó.

Lấy ví dụ trong lập trình chẳng hạn, giả sử có một vấn đề P, và LLM đưa ra hai giải pháp S1 và S2. Giải pháp S1 tốt hơn nhưng phức tạp và cần nhiều kiến thức để hiểu hơn S2, lập trình viên không đủ khả năng sẽ có xu hướng chọn S2.

Do vậy sẽ dẫn tới vòng lặp sau đây: lập trình viên kém => chọn S2 => S2 sẽ xuất hiện nhiều hơn S1 => LLM học trên dữ liệu mới sẽ có xu hướng đưa ra S2 => S1 rơi vào quên lãng => lập trình viên sử dụng LLM chỉ thấy S2 => lập trình viên càng kém đi.

Vòng lặp này không thể thoát ra được với nguyên tắc hoạt động hiện tại của ML: data sử dụng để học càng kém, thì nó càng kém.

Với Toán học tình huống cũng y hệt như vậy: LLM dùng các hiểu biết Toán học đã tích lũy cả ngàn năm để đưa ra cực nhanh các lời giải cho các giả thuyết rất khó, nhưng khi làm điều đó, nó không thực sự tạo ra hiểu biết mới.

Một nhánh Toán học được phát triển là do các nhà Toán học liên tục đặt các câu hỏi (có thể hoàn toàn ngớ ngẩn) và tìm cách suy nghĩ trả lời. Trong quá trình đó, kiến thức và hiểu biết được tạo ra (nhưng có thể chưa được sử dụng ngay, rất rất nhiều các kết quả được tạo ra từ vài chục năm trước khi nó được sử dụng).

Khi LLM can thiệp vào quá trình này, các bài toán lớn trong quá khứ được giải quyết, nhưng lượng kiến thức sinh ra rất ít. Các thế hệ sau không có kiến thức để học, LLM cũng không có gì để học, chất lượng kém đi, cứ thế rơi vào vòng lặp.

Đó là ý của bài "tuyên ngôn" kia về sự lệch pha giữa AI và Toán học, chứ không phải là các nhà Toán học ngăn cản việc sử dụng AI (Terence Tao là một trong những người đầu tiên sử dụng LLM, và rất chủ động làm điều này).

Nhấp để mở rộng...

Mimi1998 đã nói:

Anh có nghĩ đến 1 ngưỡng nào đó LLM tự self improve được không? Data nó sinh ra đủ chất lượng để tự cải thiện chính nó

Nhấp để mở rộng...

Ryu Kenshin đã nói:

AI cũng phải dựa trên các thuật toán logic mờ, vậy phát triển AI cùng nhịp thở với phát triển toán mô hình lớn mới đúng, AI chỉ đáng sợ khi nó viết ra được AI chiến thắng chính nó thôi

Nhấp để mở rộng...

su2024 đã nói:

Trong ngành y mà AI đẩy nhanh tạo ra thuốc chữa các bệnh nan y thì tuyệt vời

Nhấp để mở rộng...

Mimi1998 đã nói:

Anh có nghĩ đến 1 ngưỡng nào đó LLM tự self improve được không? Data nó sinh ra đủ chất lượng để tự cải thiện chính nó

Nhấp để mở rộng...