2024년 Spatial AI 및 Robotics 최신 논문 빠르게 파악하는 방법
배경
새로운 시대가 열렸습니다.
5년 전과 지금은 너무나도 다른 세상입니다.
매일매일 쏟아져나오는 Gaussian Splatting 논문들, Robotic foundation model 논문들, LLM 논문들…
ORB-SLAM 하나만 잘 알아도 몇년을 든든국밥처럼 써먹던 시대는 이제 없습니다.
Spatial AI (딥러닝, 컴퓨터비전, 자연어처리, 로보틱스, SLAM) 기술을 공부하는 엔지니어들은 새로운 논문을 쫒아가는 것 만으로도 곤혹입니다.
물론 과거에도 논문은 쏟아져나왔습니다.
AI 커뮤니티는 굉장히 핫했고, 국내 TensorFlow KR, PyTorch KR, SLAM KR (렛츠고!)를 통한 수 많은 KR 커뮤니티들에 신규 논문 소식이 자주 공유되었습니다.
해외 유투브에서도 수많은 딥러닝 논문 리뷰 채널들이 있었죠.
지금은? 그 인기가 무색할정도로 조용합니다.
2021년에 소개했던 ‘최신 딥러닝 / 로보틱스 뉴스를 따라잡는 방법‘ 글에 언급되었던 Yannic Kilcher와 Henry AI Labs는 완전히 다른 방향의 컨텐츠를 하고 있고, PR12는 활동을 중단한지 오래되었습니다.
기술은 더욱더 빨리 발전하는데, 빠르게 발전하는 기술의 소식을 받기는 쉽지 않습니다.
새로운 세상에는 새로운 해결 방법이 필요합니다.
이번 글에서는 어떻게 빠르게 기술 트렌드를 파악하고 내 분야의 최신 논문을 팔로잉 할 수 있는지 알아보겠습니다.
시작하기 전, 초보자분들을 위하여…
최신 논문은 굉장히 어렵습니다.
수식이 정리가 되지 않았을 때도 있고, 오타가 많다던지, 영어를 잘 못하는 사람이 적어서 원하는 바가 잘 전달이 되지 않는 경우가 많습니다.
최악의 경우에는 실험이 끝나지도 않았는데 ‘될거야~’라고 하면서 적는 선점식 논문도 있습니다.
기술 트렌드를 파악하는게 목적이라면, 초보자분들께서는 2-3년 과거의 논문일지라도 서베이 논문을 보시는 것을 추천드립니다.
구글에 ‘[특정 기술 이름] survey paper’ 라고 검색하신 후, 2-3년 내에 나온 인용 수 많은 서베이 논문을 골라보시면 전체적인 그림을 파악할 수 있을겁니다.
Visual-SLAM의 경우, 제가 만든 Visual-SLAM roadmap을 보시는 것도 방법입니다 ㅎㅎ
Scholar-Inbox
Scholar-inbox는 2023년 12월 20일 새벽 (이 글을 적기 바로 15시간 전) 릴리즈된 논문 추천 플랫폼입니다.
KITTI 데이터셋의 저자이면서 최신 3D 컴퓨터 비전 기술을 뽑아내는걸로 유명한 University of Tübingen의 Autonomous Vision Group (AVG)의 Andreas Geiger 교수님 랩실에서 만든 시스템입니다.
여기는 이 시스템을 지난 2년간 내부적으로 사용하고 있었고, 주변 연구자분들께는 1년 전부터 공개했다고 하네요 (먼저 써볼 수 있던 사람들이 부럽습니다!).
그리고 이 플랫폼이 너무 좋다고 판단 - 일반 대중에게도 릴리즈 하기로 결정해 어제 밤 릴리즈 되었습니다.
Scholar inbox는 기본적으로 Arxiv에 올라오는 논문들을 전부 인덱싱하고, 또 수많은 머신러닝, 컴퓨터 비전, 자연어처리 학회 프로시딩에 올라오는 논문들도 인덱싱합니다. (아쉽게도 ICRA나 IROS처럼 IEEE에 있는건 유료라서 하지 못하는 것 같습니다)
내가 좋아하는 논문을 몇개 고르면, 그 정보를 기반으로 ‘내가 관심있어할 논문’을 추천해줍니다.
Scholar inbox를 써야하는 이유는 다음과 같습니다.
- 매일 + 매주 이메일로 내가 좋아할만한 이유를 추천해줍니다.
- 논문에 ‘좋아요’를 함으로써 사람들의 선호도를 볼 수 있고, 또 나의 논문 추천 알고리즘을 개선할 수 있습니다.
- 연구 트렌드를 파악할 수 있고, 다른 사람이 많이 읽는 논문도 파악할 수 있습니다.
- 논문 검색이 Arxiv 보다 몇배는 더 빠릅니다.
- Figure / table을 먼저 빠르게 볼 수 있는 기능이 존재합니다. 즉, 빠르게 논문을 훑어볼 수 있는거죠.
- Arxiv 보다 다운로드가 빠릅니다. Scholar inbox 만의 PDF 캐쉬 서버가 있기 떄문입니다.
- PC와 모바일 둘 다 읽을 수 있습니다.
Scholar inbox를 사용하기 위해서는 회원가입이 필요합니다.
계정 정보와 비밀번호를 넣고, 이메일로 인증을 하면 바로 계정을 생성할 수 있습니다.
이후, 나의 논문 성향 파악을 위해 조사를 합니다.
내가 좋아하는 논문 저자의 이름을 넣으면, 그분의 논문 리스트가 쭉 나옵니다.
이 중에서 내가 좋아하는 논문들을 다 골라주면 됩니다.
논문을 다 골라주면 바로 오늘의 추천 논문 리스트가 나옵니다.
내일 새로운 논문이 나온다? 바로 내일 리스트에 추가가 될겁니다.
내가 좋아하는 분야와 가까운 논문일 경우 주황색으로 표시되고, 내가 잘 모르는 분야의 논문일 경우 파란색으로 표시됩니다. (필터링을 조정해서 내가 모르는 분야 논문은 아예 없애버려도 됩니다)
논문들마다 ‘좋아요’가 몇개인지, ‘몇번 읽었는지’, ‘GitHub 링크’ 연결, ‘ArXiV 연결’, ‘트위터 쓰레드 연결’ 등등 여러 기능이 있습니다.
여기서 내가 ‘좋아요’를 누르거나 ‘즐겨찾기’를 누르게 되면, 이 선택이 추천 시스템 알고리즘에 반영되어 앞으로의 추천에 영향을 주게 됩니다.
추천 시스템이라는건 기본적으로 데이터가 쌓여야 잘 동작하게 됩니다.
추천 시스템을 개선하기 위해 데이터를 제공해줌으로써 실시간으로 모델을 개선시킬 수 있습니다.
추천한 논문들은 이메일로도 옵니다.
오늘 하나 받아봤습니다.
제 추천 알고리즘 중에는 좋은 것도 있지만, 아닌 것들도 있어서 조금 더 시간을 써서 모델 학습을 할 예정입니다.
트위터 논문 큐레이터
트위터에는 다양한 연구자들이 많습니다.
트위터에서 좋아하는 연구자들의 계정을 팔로우하는 것도 굉장히 좋습니다. 저도 Andreas Geiger 교수님, Andrew Davison 교수님, Jon Barron, Songyou Peng, Paul-Edouard Sarlin, Torsten Sattler 등등 유명한 교수님 및 연구자들의 계정을 팔로우 하고 알림을 받고 있습니다.
근데 이런 분들은 본인이 논문이 나올 경우, 또는 지인 연구자의 멋진 연구를 샤라웃 해줄 때’만’ 글이 올라옵니다.
트위터에 계정이 없는 연구자들, 또는 아직 인지도가 낮은 연구들은 잘 주목받지 못합니다.
여기에 ‘논문 큐레이터’들이 굉장히 큰 도움이 됩니다.
이분들은 물론 굵직한 연구도 팔로잉하고 공유합니다.
하지만, 마이너하지만 멋진 연구라던지, 공부에 도움이 되는 자료라던지, 뉴스 같은 것들도 많이 공유를 합니다.
보통 이런 인플루언서 분들은 자신의 연구분야에만 집중해서 보는 경우가 많기 때문에, 본인의 연구 분야와 잘 매칭이 되는 사람을 찾아서 팔로우를 해야합니다.
여기에 3명의 인플루언서를 소개합니다.
Ryohei Sasaki
Ryohei Sasaki 님은 일본의 MAP IV에서 근무하시는 Localization and mapping engineer입니다.
주로 SLAM, 3D reconstruction, NeRF 분야의 논문을 많이 소개해주시며, 하루에 4-5개의 논문을 공유해주십니다.
이전에 제 글 중 ‘100가지 SLAM 기술 면접 질문들‘ 글을 소개해주셨어서 좋은 감정을 가지고 있습니다.
Zhenjun Zhao
Zhenjun Zhao 님은 홍콩에서 3D 컴퓨터 비전 및 SLAM을 연구하는 박사과정 학생이십니다.
주로 SLAM, 3D reconstruction, NeRF 분야의 논문을 많이 소개해주시며, 하루에 4-5개의 논문을 공유해주십니다.
위의 Ryohei 님보다는 좀 더 논문에 치중해서 자료를 공유해주시는 편 입니다.
AK
AK 님은 과거 Gradio - 현 HuggingFace 소속의 ML 엔지니어이십니다.
다양한 딥러닝 관련 논문을 소개해주시는 편인데, 빅테크의 뉴스도 자주 소개해주십니다.
대신 SLAM 논문은 거의 없는 편입니다.
Hyunggi Chang
… 아니면 위의 분들 + 중요한 Spatial AI, SLAM, 3D 컴퓨터 비전 연구자들을 팔로잉하고, 새로운 연구가 나올때마다 리포스트 하는 제 트위터를 팔로우하셔도 좋습니다.
Google Scholar
과거에는 Google Scholar로 논문 탐색을 하는 방법이 사실 제일 좋았습니다.
왜냐하면 내가 좋아하는 연구자분들의 연구, 또는 그분들의 연구를 인용한 후속 연구들에 대한 소식을 이메일 알림으로 바로 보내줬기 때문입니다.
하지만 문제가 하나 있는데, 바로 읽는데 시간이 너무 많이 든다는 점 입니다.
정말 좋은 논문들을 많이 추천해주지만…
- 다운로드는 직접 해야하기 때문에 이메일->웹페이지->다운로드->뷰어… 로 가는 시간이 너무 오래걸립니다.
- 핫한 논문이 어떤건지 모릅니다
- 좋아하는 교수님이 많으면… 하루에 이메일이 20개씩도 옵니다.
이정도로 논문을 깊게 보는 사람은 아무래도 ‘현역 대학원생 / 교수님‘ 정도밖에 안될겁니다 - 물론 이렇게 볼 수 있어야 정말정말 깊게 이해할 수 있습니다.
바쁘다 바빠 현대사회에서 살고있는 소시민 엔지니어는 출퇴근길 40분만에 작은 모바일 화면에서 파악할 수 있어야합니다.
그래서 저는 Google Scholar보다는 트위터 인플루언서들을, 그리고 앞으로는 Scholar inbox를 이용할 예정입니다.
GeekNews
마지막으로는 테크뉴스 팔로잉입니다.
국내 테크뉴스는 GeekNews가 최고인 것 같습니다.
네이버 뉴스 또는 AI 뉴스? 웹페이지로 직접 들어가야합니다.
유투브? 영상이 이쁘고 좋지만 10분짜리 영상을 다 봐야합니다.
GeekNews는 해외 빅테크 관련 뉴스 번역해서 정리해서 공유하기도 하고, 또 개발 관련 좋은 블로그 글이나 인사이트를 공유합니다.
2023년 OpenAI에서 쫒겨날뻔한 샘알트먼의 소식도 긱뉴스로 들었고, 구글에서 10년을 일한 개발자의 이직 썰도 들었고, Kent Beck의 TDD 관련한 팟캐스트 링크도 여기서 얻어서 들었습니다.
아무튼 좋은 내용들이 많은 웹사이트입니다.
가장 좋은 부분은, Slack이나 Discord 앱을 통해 연결을 하면 웹사이트를 들어가지도 않고 메세지로 받아볼 수 있다는 점 입니다.
