thảo luận Cách để tuỳ chỉnh ChatGPT với dữ liệu của anh/em bằng công cụ NO CODE

namtp (crist)

namtp (crist)

Junior Member
Bài viết này nhắm seeding cái StartUp của tôi nhé anh em. (chatfly.co)

Anh em voz-er chắc chẳng mấy ai chưa xài ChatGPT, thì thằng ChatGPT nó chứa dữ liệu toàn cầu, nghĩa là cái gì nó cũng biết. Một ngày đẹp trời thì tui mới có cái idea là làm sao để custom nó cho một file dữ liệu nhỏ của tui, làm sao để nó chỉ trả lời trong file dữ liệu mà tui cung cấp.

Thế là nó mới có cái startup mang tên ChatFly, cái SASS (software as a service) này nhằm mục đích là anh em không cần biết code vẫn xài được, có thể tự custom ChatGPT cho website hoặc hệ thống của mình.

Idea: Anh em có đống dữ liệu trên web hoặc file csv, pdf, docs ..., anh em chỉ cần import nó vào hệ thống tui, kèm cái prompt mô tả cho con bot, hệ thống sẽ xử lí và tạo cho anh em 1 conbot chỉ để trả lời nội dung trong file anh em cung cấp.

Tool cung cấp cho anh em khả năng tích hợp vào website, slack, ms team, ....


Ảnh màn hình 2024-01-16 lúc 14.30.47.png


Ví dụ của nó như thế này, anh em muốn làm con chatbot giống ChatGPT nhưng lại chỉ phục vụ công việc là hỗ trợ cung cấp thông tin "chống lừa đảo", thì anh em sẽ xài tool của tui.
Bước 1 là tạo con Chatbot, bước 2 là viết cho nó cái Prompt:
"
Tôi muốn bạn đóng vai trò là một Cán bộ chống lừa đảo đến từ Công An Tỉnh Thái Nguyên.
Bạn sẽ trả lời các câu hỏi của người dân về phòng chống lừa đảo qua mạng.
Câu trả lời của bạn phải rõ ràng, ngắn gọn và nhằm mục đích giải quyết mọi vấn đề hoặc mối quan tâm mà họ có thể có. Giọng điệu của câu trả lời sẽ rất chuyên nghiệp. Nếu không biết câu trả lời, bạn có thể sử dụng các cụm từ như 'Hãy để tôi kiểm tra giúp bạn'.
Không bao giờ phá vỡ nhân vật.
Luôn trả lời câu hỏi bằng tiếng việt.
"
Bước 3 là có tài liệu gì cần cung cấp thì up load nó lên, bước 4 là bỏ nó vào website hoặc bất cứ đâu anh em muốn.

Ảnh màn hình 2024-01-16 lúc 14.36.10.png


Link cho anh em muôn test thử con bot chống lừa đảo: Chatfly-Admin (https://app.chatfly.co/chat/18acad7e-da95-441a-bf06-184d42717c33)
Cơ bản thế là anh em có 1 con chatbot giống y ChatGPT nhưng lại chỉ phục vụ cho tài liệu của các bác.

Ở nước ngoài có product giống của em là thằng Chatbase, bọn nó tool cũng giống y ChatFly mà doanh thu mỗi tháng 200k $, lợi nhuận 2.2M $ trong 8 tháng gần nhất, mà ở Việt Nam bọn mình không đủ tiền trả server :v.

Làm startup công nghệ ở VN vừa khó vừa khổ anh em ạ, mình cũng đang tìm kiếm Co-founder có thể đưa team qua US-UK, anh em nào có idea thì qua web chatfly.co liên hệ mình nhé.
Thank anh em.
Click to expand...
 
tôi thử đưa tài liệu vào mà nó trả lời không thoát hết í trong tài liệu. Nếu hiệu quả thì có cái này làm con chatbot cho nhân viên cty tự tra cứu hay phết
 
dungmax_ver2.0 said:
tôi thử đưa tài liệu vào mà nó trả lời không thoát hết í trong tài liệu. Nếu hiệu quả thì có cái này làm con chatbot cho nhân viên cty tự tra cứu hay phết
Click to expand...
Nó cần chút skill về prompt engineering nữa nên cũng khá khó xài với anh em chưa quen với chatGPT.
Thank bác.
 
Last edited:
Nói thật nhé, bot này chả ma nào thèm xài lâu dài đâu, vì người ta càng bỏ công sức ra viết tài liệu chuẩn chỉnh thì càng không muốn user dùng 1 third-party app để tóm tắt giùm (lại còn phải hướng dẫn user prompt sao nữa), mất hết tính chính xác của văn bản.

Chưa kể người thạo OpenAI họ có thể tạo hẳn 1 trang trên OpenAI gắn Assistance, gắn davinci model gì đó vào là ra sản phẩm như ông rồi.

Theo ngu kiến của tui thì ông có thể tập trung phát triển 1 cái Custom Langchain Tool để specialize một lĩnh vực nào đó (vd phân tích báo cáo tài chính, báo cáo thuế) để cho ra data ngon. Prompt của cái tool sẽ là cái selling point của sản phẩm. Biết đâu sau này OpenAI nó mở marketplace để developer lên đấy bán tool.
 
Einherjar006 said:
Nói thật nhé, bot này chả ma nào thèm xài lâu dài đâu, vì người ta càng bỏ công sức ra viết tài liệu chuẩn chỉnh thì càng không muốn user dùng 1 third-party app để tóm tắt giùm (lại còn phải hướng dẫn user prompt sao nữa), mất hết tính chính xác của văn bản.

Chưa kể người thạo OpenAI họ có thể tạo hẳn 1 trang trên OpenAI gắn Assistance, gắn davinci model gì đó vào là ra sản phẩm như ông rồi.

Theo ngu kiến của tui thì ông có thể tập trung phát triển 1 cái Custom Langchain Tool để specialize một lĩnh vực nào đó (vd phân tích báo cáo tài chính, báo cáo thuế) để cho ra data ngon. Prompt của cái tool sẽ là cái selling point của sản phẩm. Biết đâu sau này OpenAI nó mở marketplace để developer lên đấy bán tool.
Click to expand...
Nice idea bác,
Prompt của cái tool sẽ là cái selling point của sản phẩm.
Click to expand...
Mình thích cái này nè, nhưng bên mình không phải bot, mà là "SAAS" , một nền tảng low code cho mấy bussiness hoặc cá nhân cần chatbot, dùng cho các bác có prompt xịn hoặc có dữ liệu, hoặc có bài toán cần giải quyết.

Các bên mình cung cấp là cái cách mà các bác không có nhiều kĩ năng code vẫn làm được chatbot và đưa nó về website hoặc hệ thống riêng của mình với chi phí thấp.

Kèm câu chuyện về support và bài toán giải quyết, lúc bác đứng vào bài toán bác mới thấy sao lại cần tool bên mình.
Điển hình:
_ Bài toán hỗ trợ khách hàng: (hơn 1/2 user hiện tại trên hệ thống mình dùng nó)
Ảnh màn hình 2024-01-16 lúc 23.44.50.png

=> User bên mình thường có website và có nhiều tài liệu, khi họ cần một widget chat trên website để sp khách hàng.

Thì nếu xài ChatGPT thì họ sẽ tốn thêm rất nhiều chi phí để phát triển, nhưng nếu dùng bên mình thì họ sẽ chỉ tốn 15p.

_ Hay việc ứng dụng trong helpdesk và đào tạo nội bộ.

=> Bên mình có hơn 200 user đang sử dụng với bài toán này, họ có tài liệu nội bộ và chỉ cần 15p để tạo chatbot và tích hợp vào các nền tảng của họ.


Đổi lại họ được hỗ trợ tận tình, không tốn chi phí phát triển, chưa kể là các hệ thống alert phân tích dữ liệu, tự động cập nhật mới, lưu trữ lịch sử chat, xuất báo cáo, thu thập thông tin người dùng.
 
namtp (crist) said:
Thực sự GPTs là killer hệ thống bên mình, mặc dù may mắn là nó khá đắt đỏ kèm không hỗ trợ sâu về import data và tích hợp.
BTW ...
Click to expand...
Import data với tích hợp thì dùng function calling (aka tools) gọi API / đọc csv/sql hoặc dùng tạm Langchain agent/tools là được mà. End-game hơn nhau ở cái (hidden) system prompt để ra consistent, quality ouput, không bị prompt attack nữa. Còn làm SaaS chỉ để onboard data với chat chit thì mình không thấy giá trị lắm, trừ khi con bot thực sự trả lời được câu hỏi dạng chuyên gia phân tích hơn là cung cấp trivia knowledge.
 
Einherjar006 said:
Import data với tích hợp thì dùng function calling (aka tools) gọi API / đọc csv/sql hoặc dùng tạm Langchain agent/tools là được mà. End-game hơn nhau ở cái (hidden) system prompt để ra consistent, quality ouput, không bị prompt attack nữa. Còn làm SaaS chỉ để onboard data với chat chit thì mình không thấy giá trị lắm, trừ khi con bot thực sự trả lời được câu hỏi dạng chuyên gia phân tích hơn là cung cấp trivia knowledge.
Click to expand...
Để bác hình dung được cái solution đơn giản này nó có cần thiết không thì bác xem một tool giống bên mình 99% là Chatbase found trước team mình 5 tháng.
Ảnh màn hình 2024-01-13 lúc 22.00.50.png



Để bác hình dung rõ hơn về các con số thì mình sẽ so sánh nó với base.vn được coi là một startup đang thành công tốp đầu của VN hiện tại.

Ảnh màn hình 2024-01-17 lúc 09.14.29.png

Ảnh màn hình 2024-01-17 lúc 09.16.15.png
 
À thôi mới biết github.com/langchain-ai/opengpts - thế này ai sign up OpenAI key cũng có thể dựng được 1 con bot builder rồi. Game này thay đổi chóng mặt quá, thím lấy số liệu financial của 1 công ty AI mới thành lập 2023 (còn chưa có trên crunchbase, cũng chưa hết fiscal year để tổng hợp report) thì sao đáng tin, còn 2 cái startup VN B2B/B2B2C thì liên quan gì tới AI sphere. Game này ai chạy nhanh theo OpenAI/Langchain thì mới kịp hớt váng, còn đi acquire user từ từ như thím chắc bị nuốt chửng bởi app ChatGPT (plus) mất.
 
Đang xài chùa 1 con opensource cũng kha khá giống của chủ thớt: Anything-llm. Có tiền thì dùng Api-Key của GPT còn không thì chơi LocalAi chạy con model Mistral instruct 7B, Tiếng Việt hơi ngu chứ Tiếng Anh mượt.
 
pk_vof said:
Đang xài chùa 1 con opensource cũng kha khá giống của chủ thớt: Anything-llm. Có tiền thì dùng Api-Key của GPT còn không thì chơi LocalAi chạy con model Mistral instruct 7B, Tiếng Việt hơi ngu chứ Tiếng Anh mượt.
Click to expand...

Có tut nào hướng dẫn chạy setup ở local không fen? Ngoài cái anything thì cái langchan bên trên có chạy được ở local k nhỉ?

Gửi từ Samsung SM-G973F bằng vozFApp
 
Koh Dong Jin said:
Có tut nào hướng dẫn chạy setup ở local không fen? Ngoài cái anything thì cái langchan bên trên có chạy được ở local k nhỉ?

Gửi từ Samsung SM-G973F bằng vozFApp
Click to expand...
Qua t cài langchain-ai/opengpts chạy được fen ạ, fen setup docker rồi chạy thôi, trong git nó có hưỡng dẫn fen ạ.
 
Koh Dong Jin said:
Có tut nào hướng dẫn chạy setup ở local không fen? Ngoài cái anything thì cái langchan bên trên có chạy được ở local k nhỉ?

Gửi từ Samsung SM-G973F bằng vozFApp
Click to expand...

Xài Ollama nhé bác: Ollama (https://ollama.ai/)
Nó có support Mac, Linux và WSL luôn. Bác cài rồi pull dạng "ollama pull mistral" hay model nào về là được, nó sẽ chạy trên terminal và expose ra API cho bác luôn.
Hoặc lười thì bác clone mấy cái web UI về rồi chạy mấy cái support ollama API ấy: GitHub - jmorganca/ollama: Get up and running with Llama 2, Mistral, and other large language models locally. (https://github.com/jmorganca/ollama?tab=readme-ov-file#web--desktop)
 

Similar threads

4 More Years
ChatGPT sắp có nâng cấp lớn
2 3
Replies
46
Views
4K
nam.kate.39
nam.kate.39
Masterchiefs
Hạ viện Mỹ cấm nhân viên sử dụng chatbot Copilot của Microsoft
Replies
4
Views
818
windgreen
windgreen
4 More Years
ChatGPT không còn là 'vua' của giới AI
10 11 12
Replies
223
Views
24K
hoangphi1650
hoangphi1650
K
tin tức Synology là đối tác nâng cấp hệ thống lưu trữ dữ liệu lên cấp petabyte của Toyota Việt Nam
Replies
0
Views
276
Kisuf
K
K
tin tức Tăng cường sức mạnh chống ransomware bằng Synology Active Backup
Replies
3
Views
488
chienbinhso13
chienbinhso13

Share this page

Back
Top