Pushing the Boundaries of Science: A Few Faces behind VinBrain's CVPR Accepted Paper 2023

👇 𝘗𝘭𝘦𝘢𝘴𝘦 𝘴𝘤𝘳𝘰𝘭𝘭 𝘥𝘰𝘸𝘯 𝘧𝘰𝘳 𝘝𝘪𝘦𝘵𝘯𝘢𝘮𝘦𝘴𝘦👇

• On Feb 28, 2023, VinBrain’s “Revisiting Reverse Distillation for anomaly detection” got accepted to present at the IEEE/CVF Conference on Computer Vision and Pattern Recognition (#cvpr2023), held on Jun 18-22, 2023 at the Vancouver Convention Center, Canada. 
• CVPR is an annual conference on computer vision and pattern recognition, which is regarded as one of the most important conferences in its field. It is the highest impact computing venue, according to Google Scholar Metrics (2022) 
• On the occasion of VinBrain's turning 4, let's meet 🧠 Human of VinBrain 🧠 who have shown their hard work and dedication during the process of CVPR submission. 
• A few bright minds behind it, including  Tran Dinh Tien (Tran Dinh Tien) (co-first author), Applied Scientist of Computer Vision,  Hoàng Nguyên Trần (co-author), Applied Scientist of Computer Vision, and  Huy Ta (co-author), Explainable AI Lead, will share their story with us.  

🧠 Tran Dinh Tien - Applied Scientist at Computer Vision Dept.: “Like the artist Den Vau, at night he rhymed and wrote rap, we refined our research at night again and again." 

Q: Can you elaborate on the research and development process of RD+++ leading up to the acceptance of the scientific paper at CVPR? Specifically, could you provide details about the time frame, opportunities, challenges, collaboration, and support among the research associates involved in the project? 

Tien: The RD++ research process that we had conducted lasted for 2 months, starting in Sep and ending in early Nov 2022.

Our team members provided support to one another, and every week we reported our findings to our seniors to keep them abreast and plan for the upcoming weeks.  

At that time, product-related tasks at VinBrain were also entering a very important sprint, so we also had to divide ourselves, half a day making products, the other half for research. Like artist Den Vau, at night rhymed and wrote rap, we refined our research hard at night again and again. 

In the weeks near the deadline for submissions, we were facilitated by Dr. Chanh Nguyen - Director of Applied Science Division, allowing us to prioritize more time to focus on research and complete the paper as best as possible 

Q: How do you stay up to date with the latest advances and trends in computer vision and pattern recognition? 

Tien: To stay informed about the latest trends and developments in computer vision and pattern recognition, our team has constantly kept tabs on industry conferences and events like CVPR, ICCV, ECCV, NIPS, AAAI, and BMVC.  

We also follow the research work of leading organizations and researchers in this field, such as Google AI Research, Meta AI Research, Microsoft AI Research, and OpenAI. 

Additionally, we enhance our skills and knowledge parallelly to the pace of colleagues worldwide by taking online courses and searching for learning resources and projects on GitHub. 

---

🧠 Ta Duc Huy, Explainable AI Lead: "The focus of VinBrain is on scientific researches that lead to development and deployment later."  

Q: Could you please share about the factors that are playing a role in promoting R&D innovation at VinBrain? 

Huy: The focus of VinBrain is on scientific researches that lead to development and deployment later.

One of the most interesting and challenging elements at VinBrain is that researchers have chances to encounter diverse, intriguing or challenging problems.

We are passionate about finding the best solutions for the products as well as the academic field. 

Not to mention, VinBrain has many senior experts who work with researchers to achieve the best results and support us in our experiments.

In addition, the Company also provides us with powerful computers that allow us to handle complex and highly computational tasks, leading to accurate and reliable results.

I believe these factors have contributed to the many achievements and advancements of our research team. Therefore, I am very proud to be a part of VinBrain. 

---

🧠 Tran Hoang Nguyen, Applied Scientist of Computer Vision Dept.: “Our team was inspired to research and discover the limitations of the current method, thereby proposing further research to improve its limitations and enhance its accuracy on different datasets compared to previous studies” 

Q: What innovative and cutting-edge research in the fields of computer vision and pattern recognition has inspired and motivated you? 

Nguyen: My initial inspiration came from Visual Inspection, which involves quality control of an object by detecting and identifying abnormal signs on its surface.

However, labeling a large amount of data for this task is challenging due to limited data sources and the high cost of data collection and labeling.

To address these challenges, research related to the Unsupervised Learning method was developed to solve the Visual Inspection problem. 

In addition, applying the Knowledge Distillation method to train deep learning models to optimize performance has shown promising results in this field.

There is an innovation based on this method called Reverse Distillation introduced at the CVPR 2022 conference, which achieved the best performance at that time.

Our team was inspired by this approach and conducted further research to tackle its limitations and enhance its accuracy on different datasets compared to previous studies. 

Q: What advice would you give to interns and those who are following the path of scientific research to have articles accepted at CVPR in the future? 

Nguyen: To have our articles accepted at leading computer vision conferences, namely CVPR, it is essential to have a clear understanding of the problem you want to solve, especially those who are following the path of scientific research like me.

This involves taking the time to carefully select and deeply analyze relevant research published in reputable journals and conferences to gain inspiration and propose new ideas. When conducting experiments, it is crucial to be thorough, meticulous, and frank.

In addition to possessing strong writing and presentation skills, seeking advice and assistance from industry experts, who have been forerunners in the industry is crucial for producing high-quality scientific papers and gaining valuable insights and experiences. 

- 

Interviewer: Thank you so much! We are proud of your hard work and dedication, which made this CVPR acceptance possible.  

#HumanofVinBrain #TeamCVPR 

Phá bỏ giới hạn: Điểm qua những gương mặt "vàng" giúp VinBrain xác lập kì tích mới tại “đấu trường” CVPR 2023

• Ngày 28/02/2023, bài báo “Xem lại quá trình chưng cất ngược để phát hiện bất thường” của VinBrain đã được chấp nhận trình bày tại Hội nghị IEEE/CVF về Thị giác máy tính và Nhận dạng mẫu (#CVPR) 2023 được tổ chức vào 18 - 22 tháng 6 năm 2023 tại Trung tâm Hội nghị Vancouver, Canada. 
• CVPR là hội nghị thường niên về thị giác máy tính và nhận dạng mẫu, được coi là một trong những hội nghị quan trọng nhất trong lĩnh vực này. Đây là hội nghị tin học được xếp hạng cao nhất, theo Google Scholar Metrics (2022). 
• Nhân dịp VinBrain tròn 4 tuổi, hãy cùng gặp gỡ 🧠 Human of VinBrain 🧠, những đồng nghiêp đã thể hiện sự nỗ lực và cống hiến của mình trong quá trình nghiên cứu khoa học để nộp tại CVPR. 
• Một vài “bộ 🧠 vàng" đứng đằng sau, bao gồm các anh Trần Đình Tiến (đồng tác giả đầu tiên), Chuyên viên AI - Xử lý hình ảnh, Nhóm Diễn giải AI, Trần Hoàng Nguyên (đồng tác giả), Chuyên viên AI - Xử lý hình ảnh, Nhóm AI - SCCH, và Tạ Đức Huy (đồng tác giả), Trưởng Nhóm Diễn Giải AI sẽ chia sẻ câu chuyện của họ tại tập 2 của Human of VinBrain.  

🧠 Anh Trần Đình Tiến, Chuyên viên AI - Xử lý hình ảnh : “Như nghệ sĩ Đen Vâu, đêm về gieo vần viết rap, thì anh em chúng tôi, đêm về cặm cụi chuốt lại nghiên cứu.”   

Q: Xin anh chia sẻ cụ thể về quá trình nghiên cứu và phát triển RD+++ trước khi bài báo khoa học được chấp nhận tại CVPR?  

Anh Tiến: Quá trình nghiên cứu RD+++ mà chúng tôi đã thực hiện kéo dài trong 2 tháng, bắt đầu từ tháng 9 và kết thúc vào đầu tháng 11 năm 2022.

Các thành viên trong nhóm đã hỗ trợ nhau rất nhiều, mỗi tuần team sẽ báo cáo kết quả với các anh chị Senior để cập nhật các kết quả nghiên cứu và cùng nhau vạch ra định hướng cho những tuần tới.  

Vào thời gian đó, các đầu việc liên quan đến sản phẩm tại VinBrain cũng đang vào độ nước rút rất quan trọng, nên chúng tôi cũng phải phân mình, một nửa ngày làm sản phẩm, nửa còn lại cho việc nghiên cứu. Như nghệ sĩ Đen Vâu, đêm về gieo vần viết rap thì anh em chúng tôi, đêm về cặm cụi chuốt lại nghiên cứu.  

Những tuần gần tới hạn nộp bài, chúng tôi được Tiến sĩ Chánh - Giám đốc Khối Khoa học Ứng dụng tạo điều kiện thuận lợi, cho phép ưu tiên nhiều thời gian hơn cho việc tập trung nghiên cứu và hoàn thành tốt nhất có thể bài báo khoa học này. 

Q: Làm thế nào để anh cập nhật những tiến bộ và xu hướng mới nhất về thị giác máy tính và nhận dạng mẫu? 

Anh Tiến: Chúng tôi luôn dõi theo những hội nghị và sự kiện chuyên ngành về thị giác máy tính và nhận dạng mẫu như CVPR, ICCV, ECCV, NIPS, AAAI, BMVC, vì đây là những nơi quan trọng để cập nhật các tiến bộ và xu hướng mới nhất trong lĩnh vực này. 

Bên cạnh đó, việc Theo dõi các nhà nghiên cứu và các tổ chức nghiên cứu hàng đầu trong lĩnh vực này như Google AI Research, Meta AI Research, Microsoft AI Research, OpenAI cũng là cách hiệu quả để cập nhật các tiến bộ mới nhất. 

Một phương án nữa chúng tôi đã áp dụng là tham gia các khóa học trực tuyến hoặc tìm kiếm các tài liệu học tập và dự án trên GitHub để nâng cao kỹ năng và kiến thức của mình, song song vớ tốc độ của các đồng nghiệp trên thế giới.  

---

🧠 Anh Tạ Đức Huy, Trưởng Nhóm Diễn giải AI: “Trọng tâm của VinBrain là nghiên cứu khoa học có tính ứng dụng thực tế.”  

Q: Xin anh chia sẻ về những yếu tố đang đóng vai trò trong việc thúc đẩy đổi mới trong nghiên cứu và phát triển tại VinBrain? 

Anh Huy: Trọng tâm của VinBrain là nghiên cứu khoa học có tính ứng dụng thực tế.

Một trong những yếu tố thú vị và thách thức nhất tại VinBrain là các nhà nghiên cứu có cơ hội gặp phải những vấn đề đa dạng, hấp dẫn và thách thức.

Chúng tôi luôn đam mê với những vấn đề này và luôn tìm kiếm những giải pháp tốt nhất cho sản phẩm của công ty và cả trong lĩnh vực học thuật. 

Chưa kể, VinBrain có nhiều chuyên gia giàu kinh nghiệm và chúng tôi đã có cơ hội được học hỏi và làm việc cùng họ để đạt được những kết quả tốt nhất trong các thử nghiệm của mình.

Ngoài ra, VinBrain cung cấp cho các nhà nghiên cứu những máy tính mạnh mẽ cho phép họ xử lý các tác vụ phức tạp và tính toán cao, mang lại kết quả chính xác và đáng tin cậy.

Tôi tin rằng những yếu tố này đã góp phần tạo nên nhiều thành tựu và bước tiến của đội ngũ nghiên cứu VinBrain trong ngành khoa học và công nghệ Việt Nam. Vì vậy, tôi vô cùng tự hào khi trở thành một phần của VinBrain. 

---

🧠 Anh Trần Hoàng Nguyên, Chuyên viên AI - Xử lý Hình ảnh: “Nhóm chúng tôi đã được truyền cảm hứng để nghiên cứu, phát hiện ra những điểm hạn chế của phương pháp hiện tại để từ đó đề xuất ra những cải tiến, cải thiện độ chính xác cho bài toán một cách đáng kể trên các bộ dữ liệu khác nhau so với các nghiên cứu đã được công bố trước đó.”   

Q: Xin anh cho biết những nghiên cứu tiên tiến và sáng tạo nào trong lĩnh vực thị giác máy tính và nhận dạng mẫu đã truyền cảm hứng và tạo động lực cho anh?  

Anh Nguyên: Cảm hứng ban đầu của tôi đến từ kỹ thuật kiểm tra trực quan (Visual Inspection), bao gồm việc kiểm soát chất lượng của một đối tượng bằng cách phát hiện và xác định các dấu hiệu bất thường trên bề mặt của nó.

Tuy nhiên, việc ghi nhãn một lượng lớn dữ liệu cho nhiệm vụ này là một thách thức do nguồn dữ liệu hạn chế và chi phí thu thập và ghi nhãn dữ liệu cao.

Để giải quyết những thách thức này, chúng tôi đã áp dụng nghiên cứu liên quan đến phương pháp học không giám sát (Unsupervised Learning) nhằm giải quyết vấn đề kiểm tra trực quan. 

Ngoài ra, việc áp dụng phương pháp chắt lọc kiến thức (Knowledge Distillation) để đào tạo các mô hình học sâu nhằm tối ưu hóa hiệu suất đã cho thấy những kết quả đầy hứa hẹn trong lĩnh vực này.

Có một cải tiến mới dựa trên phương pháp này được gọi là Chưng cất ngược được giới thiệu tại hội nghị CVPR 2022, phương pháp này đã đạt được hiệu quả tốt nhất vào thời điểm đó.

Nhóm chúng tôi đã được truyền cảm hứng để nghiên cứu, phát hiện ra những điểm hạn chế của phương pháp hiện tại để từ đó đề xuất ra những cải tiến, cải thiện độ chính xác cho bài toán một cách đáng kể trên các bộ dữ liệu khác nhau so với các nghiên cứu đã được công bố trước đó.  

Q: Lời khuyên của anh cho các bạn intern và những người đang đi theo con đường nghiên cứu khoa học như mình để có những bài báo được chấp nhận tại CVPR trong tương lai?    

Anh Nguyên: Để có những bài báo được chấp nhận tại các hội nghị hàng đầu trong lĩnh vực thị giác máy tính như CVPR, đối với những người đang đi theo con đường nghiên cứu khoa học như mình, các bạn phải xác định được rõ mình muốn tìm hiểu và giải quyết bài toán gì.

Các bạn cần dành thời gian để chọn lọc, tìm hiểu sâu về các nghiên cứu liên quan, có tính nổi bật, đã được công bố trên các tạp chí, hội nghị uy tín trong ngành để được truyền cảm hứng và động lực, từ đó đề xuất được những ý tưởng mới, các tính sáng tạo, tính đột phá. Việc bắt tay vào các thí nghiệm phải được diễn ra một cách chỉnh chu, cẩn thận và trung thực.  

Cuối cùng, để có được một bài báo khoa học chất lượng, ngoài việc các bạn phải trang bị được cho bản thân kĩ năng viết, trình bày một bài báo khoa học, các bạn nên nhờ đến sự tư vấn, góp ý, giúp đỡ từ các anh chị đi trước trong ngành để có được cho mình những bài học, kinh nghiệm quý báu từ những người đi trước. 

-

PV: Xin cảm ơn và chúc các anh nhiều thành công và sức khỏe!