thắc mắc Hỗ trợ làm luận văn tốt nghiệp đại học

Chào anh/chị, hiện tại em còn 1 tháng rưỡi để làm luận văn tốt nghiệp, đề tài về Domain Adaptation, phát triển dựa trên Efficient Nearest Neighbor Language Models của Juxian He. Thật sự là chương trình lúc học của em không hề liên quan đến mảng này hay Deep Learning gì cả. Cùng lắm là chạy vài ba thuật toán Machine Learning trên Google Colab thôi. Bạn cùng làm đề tài với em thì đi làm full time và gvhd của tụi em không hề định hướng gì cho tụi em cả. Xung quanh em cũng không có ai có thể hỏi thăm hay tham khảo ạ. Em cực kì stress, lost và không biết làm thế nào với bài luận văn của em nữa.

Em cần 1 người đi trước có thể chỉ dẫn giúp em vượt qua khóa luận để tốt nghiệp ạ. Em sẵn sàng dùng điều kiện tài chính của chính em để học được gì đó cho khóa luận này ạ.
Cảm ơn anh/chị đã đọc hết thread này.

Up cho ai có khả năng vô giúp

Mình chỉ suy nghĩ là sao bạn không theo hướng học máy lại chọn đề tài này. Chúc bạn sớm tìm được người hỗ trợ

hicup00 said:

Mình chỉ suy nghĩ là sao bạn không theo hướng học máy lại chọn đề tài này. Chúc bạn sớm tìm được người hỗ trợ

Click to expand...

Lúc đầu mình gửi thư cho thầy về hướng khoa học dữ liệu vì có anh chị đi trước apply vào lab thầy làm phương pháp học máy. Mình nghe review về lab thầy khá tốt nên apply vào, nhưng thầy chỉ chỉ định 1 anh NCS vào làm gvhd cho tụi mình, cho tụi mình cái đề tài rồi để tụi mình tự bơi luôn. Lúc đó mình nghĩ mình có thể tự học DL nhưng lúc đụng vào thật sự thì lý thuyết và thực hành nó là 2 chuyện khác nhau và kiến thức cũng rất nhiều... Và gặp mặt thầy gchd cũng rất khó khăn vì không biết lúc nào thầy có ở trường, nhắn cho thầy thì thầy cứ bảo để thầy xem rồi đến hôm nay thầy hỏi lại tụi mình đề tài là gì luôn @@

Ý thớt là Efficient Nearest Neighbor Language Models á? Tìm theo tên tác giả mình tìm được mỗi bài này, paper hay phết
Chúc thớt tìm được người giúp

precision873 said:

Ý thớt là Efficient Nearest Neighbor Language Models á? Tìm theo tên tác giả mình tìm được mỗi bài này, paper hay phết
Chúc thớt tìm được người giúp

Click to expand...

Cảm ơn bác. Đúng rồi ạ, tối qua stress quá nên mình ghi nhầm khúc cuối.

nghe giống kNN nhỉ cái này thực ra là Machine Learning thôi thớt ơi, Deep Learning nó liên quan nhiều về xử lý mạng học sâu hơn như kiểu train các model như EfficientNet, DenseNet,... thím hỏi thử xem có thể đưa bài toán về các mạng sâu như trên không, nếu được thì phần cài đặt chỉ nặng về setup parameter và integrate vào ứng dụng thím đang làm chứ ko nặng về coding nữa

via theNEXTvoz for iPhone

minhthcvb said:

nghe giống kNN nhỉ cái này thực ra là Machine Learning thôi thớt ơi, Deep Learning nó liên quan nhiều về xử lý mạng học sâu hơn như kiểu train các model như EfficientNet, DenseNet,... thím hỏi thử xem có thể đưa bài toán về các mạng sâu như trên không, nếu được thì phần cài đặt chỉ nặng về setup parameter và integrate vào ứng dụng thím đang làm chứ ko nặng về coding nữa

via theNEXTvoz for iPhone

Click to expand...

thím đọc cái paper chưa vậy? nó là 1 model deep learning kèm theo knn trên datastore mà

minhthcvb said:

nghe giống kNN nhỉ cái này thực ra là Machine Learning thôi thớt ơi, Deep Learning nó liên quan nhiều về xử lý mạng học sâu hơn như kiểu train các model như EfficientNet, DenseNet,... thím hỏi thử xem có thể đưa bài toán về các mạng sâu như trên không, nếu được thì phần cài đặt chỉ nặng về setup parameter và integrate vào ứng dụng thím đang làm chứ ko nặng về coding nữa

via theNEXTvoz for iPhone

Click to expand...

Mình thấy bài có dùng 1 model DL state-of-the-art để làm base model , và 1 model MLP ở khúc inference để chọn xem lúc nào nên retrieve knn ở datastore. Nên mình nghĩ nó cũng hơi nặng DL ấy ạ. Mình đã chạy được code của author. Nhưng vấn đề lớn nhất là mình không có ai để định hướng tiếp theo mình nên làm gì tiếp để improve nó hết.

precision873 said:

thím đọc cái paper chưa vậy? nó là 1 model deep learning kèm theo knn trên datastore mà

Click to expand...

Mình đọc rồi bác. Mình đang stuck idea nên phát triển bài của author ntn và mình không có người định hướng lúc này (gvhd để tụi mình tự bơi, không gợi ý tí nào)

Hinnih said:

Mình đọc rồi bác. Mình đang stuck idea nên phát triển bài của author ntn và mình không có người định hướng lúc này (gvhd để tụi mình tự bơi, không gợi ý tí nào)

Click to expand...

mình reply thím kia mà , thím kia bảo không liên quan tới deep learning
mình không phải gs gì đâu, nhưng thím có thể tham khảo ý tưởng này:

• Thay vì sử dụng PCA thì dùng phương pháp khác lên datastore như là NMF hay tSNE
• Hay như phần future work cũng nhắc đến việc sử dụng phương pháp indexing khác, hình như tác giả cố ý không sử dụng các phương pháp xịn hơn trong FAISS
• Phần Adaptive Retrieval train có vẻ nhanh, thím chày cối thử nghĩ thêm feature rồi ngồi train cho đến khi cải thiện được xem sao. Với cả 2 cái feature log lúc infer thì nhanh nhưng chắc tính trên 1 bộ dataset lớn hơn wikitext103 chắc mệt phết, thím xem có cách nào thay thế nó không (theo mình hiểu thì cả 4 đều có tác dụng là đo xem cái LM đã nhìn thấy context đấy nhiều chưa và có chắc chắn không về dự đoán tiếp, thím tìm thêm feature theo sườn đấy chắc ok)

precision873 said:

mình reply thím kia mà , thím kia bảo không liên quan tới deep learning
mình không phải gs gì đâu, nhưng thím có thể tham khảo ý tưởng này:

• Thay vì sử dụng PCA thì dùng phương pháp khác lên datastore như là NMF hay tSNE
• Hay như phần future work cũng nhắc đến việc sử dụng phương pháp indexing khác, hình như tác giả cố ý không sử dụng các phương pháp xịn hơn trong FAISS
• Phần Adaptive Retrieval train có vẻ nhanh, thím chày cối thử nghĩ thêm feature rồi ngồi train cho đến khi cải thiện được xem sao. Với cả 2 cái feature log lúc infer thì nhanh nhưng chắc tính trên 1 bộ dataset lớn hơn wikitext103 chắc mệt phết, thím xem có cách nào thay thế nó không

Click to expand...

Xin lỗi bác mình newbie voz nên tưởng bác rep mình. Tạ ơn bác nhiều lắm, mình sẽ thử nghiên cứu thêm về idea của bác ạ.