ChatGPT tiêu thụ điện đáng kinh ngạc

Quantum · Mar 17, 2024

Những mô hình ngôn ngữ lớn (LLM) như chatGPT của OpenAI đang tạo ra cuộc cách mạng về sự tương tác giữa người và máy tính song đằng sau đó tiềm ẩn mức tiêu thụ năng lượng khổng lồ.
The New Yorker dẫn tính toán của nhà khoa học dữ liệu thuộc Ngân hàng Quốc gia Hà Lan Alex de Vries cho biết chatGPT đang phải đáp ứng khoảng 200 triệu câu lệnh mỗi ngày từ người dùng khắp toàn cầu. Để thực hiện "sứ mệnh" đó, chatbot này tiêu tốn nửa triệu KWh, gấp 17.000 lần lượng điện trung bình mà một hộ gia đình Mỹ sử dụng hằng ngày.

Nhà khoa học Vries còn cho rằng nếu Google tích hợp công nghệ AI tạo sinh vào mọi tìm kiếm sẽ kéo theo việc tiêu thụ khoảng 29 tỉ KWh điện mỗi năm. Đây là lượng điện tiêu thụ nhiều hơn các hộ gia đình ở một số quốc gia trong một năm.

ChatGPT đang phải thực hiện khoảng 200 triệu câu lệnh mỗi ngày khiến nó ngốn tới nửa triệu kilowatt giờ điện Ảnh: OpenAI

ChatGPT tiêu thụ điện đáng kinh ngạc

Những mô hình ngôn ngữ lớn (LLM) như chatGPT của OpenAI đang tạo ra cuộc cách mạng về sự tương tác giữa người và máy tính song đằng sau đó tiềm ẩn mức tiêu thụ năng lượng khổng lồ.

nld.com.vn

Quantum · Mar 17, 2024

Training mấy AI model này tốn tiền đầu tư và tốn điện vkl

Đang chạy thử nghiệm con Mistral thấy oải quá

hamhochoi14042016 · Mar 17, 2024

Ăn theo ChatGPT, VN ra mắt ViGPT, Phở GPT, Bánh mì GPT, VietGPT... giờ chết hết rồi, toàn là mõm thôi

Bò Viên · Mar 17, 2024

Vozer cứ lo nó thống trị loài người, AI chạy bằng điện là dỡ rồi

DnD303 · Mar 17, 2024

Bò Viên said:
Vozer cứ lo nó thống trị loài người, AI chạy bằng điện là dỡ rồi

Để AI có thể thống trị loài người thì lâu lắm, vì để như vậy thì AI phải được tích hợp sâu rộng vào đời sống và sản xuất, như khai thác tài nguyên, thậm chí nuôi gia súc, gia cầm...thì lúc đó AI mới có cơ hội thống trị và như bác nói thi phải làm chủ cả nguồn năng lượng.
Còn hiện tại thì chắc tầm chục năm nữa thì AI thống trị một số các công việc của xã hội thôi, như thợ code, telesales, customer services....

canvas110 · Mar 17, 2024

DnD303 said:
Để AI có thể thống trị loài người thì lâu lắm, vì để như vậy thì AI phải được tích hợp sâu rộng vào đời sống và sản xuất, như khai thác tài nguyên, thậm chí nuôi gia súc, gia cầm...thì lúc đó AI mới có cơ hội thống trị và như bác nói thi phải làm chủ cả nguồn năng lượng.
Còn hiện tại thì chắc tầm chục năm nữa thì AI thống trị một số các công việc của xã hội thôi, như thợ code, telesales, customer services....

Thì mới bảo, 50 năm nữa vua nghề là: nông dân, đầu bếp, thợ xây, thợ máy... và quan trọng nhất, đó là nghề của tôi làm ở nơi trong avatar.

davinci1207 · Mar 17, 2024

Thảm nhất chắc mấy anh DC supplier ở Châu Âu. Dạo này người người nhà nhà train LLM mà các anh ấy đu trend NLX lâu quá nên giờ ko cả đủ điện cho DC. Hôm trước mới nhận mail của Serverius báo có 2 site ở Hà Lan thiếu điện, yêu cầu không tăng thêm power consumption. Mà giá điện ở mấy site này cũng không hề rẻ.
Công ty đã có kế hoạch bỏ hết DC ở site Eurozone sau khi hết hợp đồng, DC cho người dùng ở Châu Âu chuyển hết sang UK.

Inormall · Mar 17, 2024

canvas110 said:
Thì mới bảo, 50 năm nữa vua nghề là: nông dân, đầu bếp, thợ xây, thợ máy... và quan trọng nhất, đó là nghề của tôi làm ở nơi trong avatar.

20 năm nữa có ông can robot rồi

dogamer05 · Mar 17, 2024

Inormall said:
20 năm nữa có ông can robot rồi

Lại nhớ tron M.I.High, có con AI nó quản lý tội phạm, xong nó tính toán 1 hồi thì con người là nguồn gốc tội phạm -> tìm cách xử con người :shame:

Thần Toán Tử · Mar 17, 2024

Năng lượng thì k bao giờ cạn, nếu tận dụng dc mặt trời, gió....

Mà tư bản đã tính rồi lợi nhuận trên vốn là dc

templarassvn · Mar 17, 2024

hamhochoi14042016 said:
Ăn theo ChatGPT, VN ra mắt ViGPT, Phở GPT, Bánh mì GPT, VietGPT... giờ chết hết rồi, toàn là mõm thôi

Cũng hay mà, có con AI cho người Việt.

canvas110 · Mar 17, 2024

Inormall said:
20 năm nữa có ông can robot rồi

Không ai phủ nhận robot không làm CS được, nhưng đây là vấn đề nguyên tắc, cái ngày mà loài người chấp nhận để cho robot làm CS thì cũng gần cái ngày con người bị robot thống trị lắm rồi.

...Batman... · Mar 17, 2024

Quantum said:
Training mấy AI model này tốn tiền đầu tư và tốn điện vkl

Đang chạy thử nghiệm con Mistral thấy oải quá

Thì cuộc chơi nó thế, giá để gia nhập ngày càng đắt đỏ. Mấy năm trước có 1-2 con server 8GPUs là start-up được rồi, làm model vision, speech này kia. Giờ muốn vào game, phải có vài con DGX mới mong được việc.
Nên từ lúc mấy model to này ra tôi cũng ko tìm hiểu gì nhiều về kiến trúc hay traininig (vì ko có điều kiện), chuyển qua tìm hiểu cái khác.

Lê Thị Hồng · Mar 17, 2024

canvas110 said:
Thì mới bảo, 50 năm nữa vua nghề là: nông dân, đầu bếp, thợ xây, thợ máy... và quan trọng nhất, đó là nghề của tôi làm ở nơi trong avatar.

chắc chưa? đã xem con figure 1 của openai chưa?

DunhillSG · Mar 17, 2024

Lê Thị Hồng said:
chắc chưa? đã xem con figure 1 của openai chưa?

Vấn đề là pin năng lượng thôi, độ tinh vi của robot hiện nay đã có khả năng thay thế lao động chân tay, nhưng chưa có pin đủ nhỏ, trữ năng lượng đủ hoạt động lâu dài

Chuyên máy sưởi 25W · Mar 17, 2024

Công ty tôi đang thử nghiệm một AI hỗ trợ dev nội bộ mà thấy bên AI bảo tài nguyên hiện tại chưa đủ đáp ứng

AllenDinh · Mar 17, 2024

Bữa sau khi release thử con LLM tôi fine tune lên internet tôi đã thấy cái này không hợp cho các tổ chức nhỏ, để biến thành ứng dụng thương mại cần quá nhiều thứ.

dogamer05 · Mar 17, 2024

Chuyên máy sưởi 25W said:
Công ty tôi đang thử nghiệm một AI hỗ trợ dev nội bộ mà thấy bên AI bảo tài nguyên hiện tại chưa đủ đáp ứng

Thật ra là $ bỏ ra k đáng với lợi nhuận thu về đấy
Chứ lợi nhuận ngon thì tự build r :sad:

Khá chắc kèo mấy con AI của VN k con nào ra hồn vì thấy tốn $ cho CSVC quá nên làm xong đem con bỏ chợ :burn_joss_stick:

DeutschlandGreatAgain · Mar 17, 2024

Má, con GPT chỗ tôi cứ tối là lag vcd, ko hiểu vì sao

Chuyên máy sưởi 25W · Mar 17, 2024

dogamer05 said:
Thật ra là $ bỏ ra k đáng với lợi nhuận thu về đấy
Chứ lợi nhuận ngon thì tự build r
Khá chắc kèo mấy con AI của VN k con nào ra hồn vì thấy tốn $ cho CSVC quá nên làm xong đem con bỏ chợ

Mấy cái AI này csvc tốn $ lắm.
Tương lai thì chưa biết nhưng hiện tại không phải ai cũng đú được.

ChatGPT tiêu thụ điện đáng kinh ngạc

Senior Member

Những mô hình ngôn ngữ lớn (LLM) như chatGPT của OpenAI đang tạo ra cuộc cách mạng về sự tương tác giữa người và máy tính song đằng sau đó tiềm ẩn mức tiêu thụ năng lượng khổng lồ.​

Senior Member

Senior Member

Senior Member

Đã tốn tiền

Senior Member

Đã tốn tiền

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Senior Member

Similar threads

Share this page

Những mô hình ngôn ngữ lớn (LLM) như chatGPT của OpenAI đang tạo ra cuộc cách mạng về sự tương tác giữa người và máy tính song đằng sau đó tiềm ẩn mức tiêu thụ năng lượng khổng lồ.