일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
- 인공지능 그랜드 챌린지
- Lr Scheduler
- Cosine annealing
- aitech
- 네이버커넥트재단
- 음성인식
- 인공지능
- 머신러닝
- Machine Learning
- deep learning
- ai
- End-To-End
- VAD
- Learning rate Scheduler
- 부스트캠프
- 부스트캠프ai
- 딥러닝
- Today
- Total
AI4NLP
늦깍이 학점 낮은 비전공자, 인공지능 공부의 첫 시작부터 지금까지를 돌이켜보며 (2018-2020) 본문
언젠가는 인공지능 공부를 시작하면서부터 지금까지의 과정을 돌이켜보고 복기해보자고 생각은 하고 있었는데, 맘 먹은만큼 쉽지 않았다. 아마 공부를 시작하면서부터 너무 바쁘게, 정신없이 달려온 것이 그 이유가 아닐까 생각한다. 그래서 미루고 미뤄두고 있었는데, 참여하고 있는 프로젝트 팀 헤파이스토스에서 2020년 회고 모임을 가졌고, 그 모임에서 이야기하다 보니 생각이 어느정도 정리가 되어서 회고 글을 쓰게 되었다.
2018년
나는 사범대, 수학교육과를 졸업했다. 학부에 다니는 동안 좋은 선생님이 되기 위해 여러방면으로 많은 노력을 하였다. 4학년 1학기 교생 실습 중에 선생님이라는 직업에 대해 다시금 생각해보게 되었다. 선생님이라는 직업은 분명 보람있고 가치있는 직업이다. 하지만, 학생들과 부대끼는 시간보다 선생님들 사이의 관계와 각종 서류 작업들이 많다는 것이 나에겐 큰 부담임과 동시에 선생님이라는 직업에 대해 다시금 생각해보게 하였다. 또, 중고등학교 총 6개 학년을 정년까지 가르친다고 했을 때 평균적으로 각 학년을 5년씩 가르칠 수 있다는건데 그 과정 중에서 내가 나태함에 빠질 것이란 슬픈 예감이 있었다. 그래서 직업을 바꿔보기로 했다. 복수전공하던 통계학과에서 우연한 기회로 딥러닝을 배우게 되었는데, 생각보다 재미있었고, 수학과 그나마 연관있는 직종이라 생각해서, 인공지능을 공부하기로 마음먹었다. 또, 남들처럼 국비 교육과정에 진학해서 1년 이하로 공부하고 나와서 개발자 일을 하는 것은 큰 경쟁력이 없을거라고 생각했기 때문에, 인공지능 관련된 석사 과정 대학원에 진학하기로 마음 먹었다.
학부 졸업학점이 매우 낮았기 때문에.. (4.5 만점 3.0 아래) 대학원 입학은 너무 어려웠다. 대부분 서류에서 떨어졌었는데, 우연한 기회로 교수님과 면접까지 보게 되었고, 그렇게 대학원에 다니게 되었다. 대학원에 들어가면 뭔가를 알려줄거라 생각했는데, 그렇지는 않았다. 누가 뭔가를 끼고 알려주지는 않았고, 알아서 각자 살 길을 찾아가야하는 방식이었다. 코스웤도 교수님들마다 천차만별이었다. 어떤 교수님은 잘 알려주시는 반면 어떤 교수님은 수업의 과반 이상을 세미나로 하시는 경우도 있었기 때문이다. 선배들이 어느정도 도와는 주셨지만, 선배들도 각자 할 일이 있었기 때문에 한계가 분명 존재했다. 알아서 스스로 해야하는 경우가 상당히 많았다.
그래서 그냥 눈에 잡히는 대로 공부했다. "모르는 것이 나오면 그것의 끝까지 파겠다", "한번 본 것은 2번 보지 않겠다.". 는 마인드로 끝까지 잡고 늘어졌다. 혼자 공부하는 것은 그런대로 괜찮았지만, 엄청 힘들었었다. 이때 내 공부의 느낌은.. 아무런 확신도 없이 지하수를 찾기 위해 땅만 끝없이 파내려가는 사람과 같은 심정이었다. 내가 잘 가고 있는건지, 내가 가는 방향은 맞는건지 언제나 불안했었고, 힘들었다. 나침반 없이 직진만 하는 배라고도 비유할 수 있겠다. 그래서 같은 생각을 가진 다른 사람들과 공부해보고 싶었고, 누군가에게 멘토링을 받고 싶었다. 그렇게 하다가 어떤 단체에서 하는 자연어처리 교육과정에 문 닫고 들어가게 되었다. 1주일에 한번씩 서울로 나가야하는데 편도 1시간 반 가까운 거리는 생각보다 큰 부담이었음에도 가는 내내 즐거웠었다.
2018년은 자연어처리에 큰 획을 그은 BERT가 나왔던 해이다. BERT는 당시에 자연어 처리 공부를 하고 있던 나에게 큰 충격을 주었던 모델이다. 열심히 논문을 보면서 공부하면 장땡일 줄 알았는데, BERT가 주는 메시지는 그렇지 않았기 때문이다. (이전에도 어느정도 짐작은 하고 있었지만.. ) 내가 논문을 읽는 속도가 일차함수 꼴이라면, 논문이 나오는 속도는 지수함수꼴이라는 현실을 깨닫게 되었다. 이때 이후로 공부의 방향을 "새로운 논문이 나오더라도, 빠르게 따라가고 빠르게 이해할 수 있는 기초 체력(learning curve)을 갖추자" 로 바꾸었다. 이 공부 기조는 2019년까지 이어지고, 새벽 별을 보며 집에 들어가서 지쳐 잠들었다가 아침에 눈 뜨는 생활을 계속 했었다. 공부를 하다보니 자연스레 잠이 줄어들었었다.
돌이켜보면 2018년은 방향성 없이 무작정 손에 잡히는 대로 파괴적으로 공부하면서 보냈던 때였다. 거의 매일밤 혼자 힘들어서 울었던거 같다. 그 당시에는 그렇게 날 극한으로 몰아야, 내가 힘들어야 그것이 공부가 된다는 생각으로 지냈었다. 이때에 패턴인식과 머신러닝 책 스터디도 열어서 공부했던 것 같은데, 모르는 내용들 기를 써가며 혼자서 봤었다. 스터디 발표 당일 새벽까지 이해가 안 되서, 울면서 돌아다니다가 갑자기 이해가 되서 터벅터벅 집으로 돌아가는데, 눈 앞에 아침 해가 뜨고 있었던 기억은 아직도 잊지 못한다.

2018년 중반의 내 모습은 더닝 크루거 효과에서 Confidence - High, Know-Nothing의 모습이었다. 아주 많이 건방지고, 단정적인 말투들을 쉽게 사용했었다. 지금에 와서는 왜 그랬을까 많이 반성한다...

2019년
석사 3차가 되었다. 2018년에서 이어오던 learning curve를 위한 공부는 계속 이어졌다. 2019년에는 IITP에서 열었던 "글로벌인재양성사업 - 위탁교육 트랙"에 선발되어 미국 카네기멜론 대학교에 다녀온 해다. 시험을 본 후에 면접을 봐서 선발되는 과정이었다. 카네기멜론에서 겪었던 교육은 한국에서 받았던 교육과는 많이 달랐다. 우선, 수업 시간에 수업 내용에 대한 질문과 토론이 자유로웠으며, 그것에 대해 아무도 눈치를 주지 않았다. 또, 수업에 굉장히 많은 TA(teaching assistant)가 배정되었다. 40명이 듣는 수업이었음에도 불구하고 2명의 TA가 배정되었다. 오피스 아워에는 TA들에게 모르는 부분에 대해 시간이 허락하는 한 계속 질문할 수 있었는데, 수업 내용에서 막히는 부분들을 빠르게 해결할 수 있어서 좋았다. 과제와 시험들에 대해서도 부정 행위를 할 경우 어떠한 처벌도 감수하겠다는 서약이 있었는데, 이런 부분들도 한국 대학교와는 사뭇 달랐었다. (실제 퇴학 당하는 경우도 왕왕 있다고 한다.) 미국에서 겼었던 미국의 수업 방식은 한국과는 너무 달랐다. 한국은 미국의 교육 방식을 따라간다고 하는데, 왜 이런 부분들은 따라가지 못하는지 섭섭하기도 하고 아쉬웠다. 카네기멜론 대학교에 대해서는 좋았던 기억만 가득하다. 라운지에 모여서 많은 학생들이 서로 질문하고 토론하며 과제를 진행하고, 야외에서는 프리스비 같은 운동들을 하는 모습은 그저 보기 좋았다. 학교 수업에서도 내가 원했고, 정말 간절히 배우고 싶었던 내용들을 배울 수 있었다. 교수님들께서 해주시는 수업들을 통해 인공지능의 기초들에 대한 갈망을 해결할 수 있었다. 카네기 멜론에서 지내는 동안 내가 한국에서 배웠던 것들과 비교가 되어서 섭섭하고 아쉬웠었다.
2018년 연말에 김성훈 교수님의 주최로 열렸던 행사에서 삼성전자 우경구 상무님의 강연을 듣게 되었는데, 그때 해주셨던 말씀이 "입문자라면 탑티어 학회는 사비를 내고서라도 한 번 다녀오는 것을 추천한다." 였다. 마침 19년 12월에 캐나다에서 인공지능 분야 탑 티어 학회인 Conference on Neural Information Processing Systems (Neurips, 뉴립스)가 열려서, 사비로 다녀왔었다. 뉴립스에서의 경험은 한국의 현실에 대한 실망은 크게 만드는 한편, 해외(더 넓은 세상)에 대한 선망이 커지는 계기가 되었다. 다른 기업들에서는 방문할 때마다 본인들의 기술이나 비전, 하려는 일들 등에 대해 너무 잘 설명해주었고, 질문들에 대해서도 성심성의껏 알려주었다. 모 한국 기업 부스는 다른 부스들과는 다른 경험을 선사했었는데, 우선 첫 시선은 내 명찰에 꽂혔다. 이름을 말했는데도, 명찰에 시선이 꽂힌다는 것은 대학교를 본다는 것으로 밖에 이해되지 않았다. 물어보는 것들에 대해서도, 뉴스 레터 신청하면 뉴스 레터로 알려준다고 했었다. 도대체 설명을 안 해줄것이면.. 왜 부스를 만든건지 이해가 안 된다. 설명할 것이 없는가보다 하고 서있는데, 하버드 생에게는 친절하게 모두 다 알려주는 모습을 보며 씁쓸함만 들이켜야 했다. 그 때 이 사람들은 출신 대학교를 보는구나 하고 확신이 생겼다. 대학교라는 능력이 부족해서 생긴 일이니 내가 감수해야할 일이긴 했다. 상대방이 내가 싫다는데, 내가 어떻게 할 수는 없는 것이니까. 이 때의 일을 계기로 내 가치를 알아주는 회사를 위해 내 있는 힘껏 다해 헌신하겠다고 다짐하게 되었다. 그리고 대학이란 편견에서는 한국계보다는 외국계 회사가 덜 하다는 생각도 자리잡게 된 것 같다. 뉴립스에서는 다양한 사람들과 친분을 다지기 위해 유스호스텔에서 머물렀다. 낮에는 학회에서 있다가 저녁에는 호스텔의 라운지에서 사람들과 많은 이야기를 했었다. 좀 더 좋은 사람이 되기 위해서는 좋은 질문을 해야하고, 남의 질문을 잘 이해하는 능력이 중요하다는 말도 호스텔 라운지에서 사람들과 이야기하면서 체감했다. 뉴립스에서의 경험은 나에게 큰 동기 부여가 되었다. 다양한 사람들이 모여서 포스터, 오랄 발표를 듣고, 질문하고 토론하면서 느낀 가슴 뭉클함은 이 글로 풀어내기에는 힘들다..
2019년에 느꼈던 점을 한 줄로 정리하자면.. "더 넓은 세상에서 더 많은 기회를 누리며 살아보자." 일 것 같다.
2020년
2020년은 2018,2019년과는 다른 스탠스를 취해서 가야겠다고 다짐했었다. 공부하던 내용들을 잘 취합해서, 실제 현업에서 풀어내기를 바랬다. 그래서 등록금도 벌겸 겸사겸사 구직을 시작하였고, 실리콘 밸리에 있는 회사 포함 몇개의 회사에서 오퍼를 받았다. 결과적으로는 지금의 회사(보이스루)에 취업했다. 지금의 회사가 제시한 연봉이 제안 받았던 연봉들 중에서는 가장 낮았지만, 같이 일할 팀장님 (조용래님) 한분만 바라보고 입사를 결정했다. 팀장님만 바라보고 입사한 이유는, 2018년부터 혼자서 공부했다는 느낌을 지울 수가 없어서, 2020년은 누군가와 함께 코웤했다는 느낌을 강하게 받고 싶었는데, 지금의 팀장님과 함께라면 일도 잘 배우면서 함께 성장할 수 있겠단 확신이 있었기 때문이다. 결과적으로는 잘한 선택이었다. 팀장님과 함께 토론하고, 의논하면서 함께 대회에 출전해서 입상도 2번 했었고, 그에 대한 부상으로 후속 연구비도 9억 가량 지원받았다. 또한 함께 회사에서 하던 업무들을 추려서 신호처리 분야 탑티어 학회에 2편 제출했다. 또, 석사 과정 초기부터 조원익님과 이어오던 연구가 LREC와 EMNLP findings에 억셉되었다. 2020년 말에 적는 회고인데.. 적다보니 2020년에 대한 글의 양이 생각보다 적다.
여러모로 뿌듯했던 한 해였다. 또, 2018년부터 공부해오던 것들의 결실이 천천히 맺히기 시작한 해가 올해, 2020년이었다. 연봉을 바라보지 않고, 좋은 사수만을 바라며 입사했는데 그 선택은 결과적으로 좋은 선택이었다. 보이스루에서 일하면서 팀장님과 일했던 방식은 평생 기억하며 살 것이다. 함께 동등한 입장에서 편하게 질문하고, 토론할 수 있는 분위기였다. 되는 모델에 대해서도 왜 되는지, 모델이 잘 안 돌아갈 경우는 왜 안 되는지에 대해서도 많은 이야기를 나누었었다. 같은 공간에 있으면서 함께 일한다는 느낌은 이 때 처음 느꼈었다.
2021년
2021년에는 연구도 개발도 할 생각이지만, 연구를 위한 연구보다는 개발을 하면서 발견되는 이슈들을 해결하면서 연구를 진행해보려고 한다. 또, 2021년 가을 혹은 2022년 봄, 가을 학기 박사과정 입학을 목표로 해보려고 한다.
맺으면서.
글을 쓸 때에는 제대로 잘 기억이 나지 않았는데, 맺음말을 적기 위해 생각을 다시 해보니, 확실히 이것저것 많이 했었던 한 해였다. 개인적으로는, LREC, EMNLP findings에 공저자로 억셉되었으며, 사이드 프로젝트로 진행하던 "청각 장애인 발음 교정을 위한 교육용 앱" 을 파이콘 2020(발표 영상 링크)에서 발표했었고, 계속 진행해서 SW 창업 챌린지 공모전에서 은상으로 입상하였다. 또, 업스테이지, 커넥트 재단에서 진행하는 부스트 캠프에 교육 조교, 멘토로 참여했고, 작성에 참여한 책도 2권 나올 예정이다. 아! 주말마다 인공지능 강의도 간간히 나가고 있다. 회사의 일원으로는.. 인공지능 온라인 경진대회에서 어린이 음성인식 1위, 잡음 상황 음성인식 2위, 종합 7위로 입상하여 1억 6천만원을 지원받았고 (후기글 링크), 인공지능 그랜드 챌린지, 음성인지 트랙에서 1위를 하여 후속 연구비로 7억 6천만원을 지원 받을 예정(후기글 링크)이다. 또 2020년에 회사에서 했던 업무들 중에 연구 가치가 있는 내용들만 추려서 신호처리 학회인 2021 IEEE International Conference on Acoustics, Speech and Signal Processing에 2편 제출하였고, 현재는 2021 Interspeech 제출을 목표로 논문을 작성하고 있다. 뭔가를 하기는 많이 한 것 같다. 하지만, 확실히 몸 건강이 많이 안 좋아졌음이 체감된다.... 2021년에는 몸 건강도 잘 챙기고, 식사도 건강하게 하며 보내야겠다. 그리고, PRML과 머피 머신러닝 책에서 못다푼 연습문제도 마저 풀어보려고 한다.
추신. 아마 이 글 보실 것 같은데.. 저 때문에 책 발행 늦춰져서 정말 죄송합니다.... 이 글 쓰고 마무리지으러 가려고요..ㅠㅠ
'General' 카테고리의 다른 글
1년간 정들었던 회사를 떠나며 (0) | 2021.02.21 |
---|---|
실전 보고서 작성 기술 with 파워포인트, 워드, 한글 를 읽고 나서 (0) | 2021.02.20 |
AI Grand Challenge, 인공지능 그랜드 챌린지 1위 입상 후기 및 입상 모델 설명 (0) | 2020.12.27 |
네이버 커넥트재단 업스테이지 부스트캠프 AI Tech 설명회 참석 후기 (0) | 2020.11.30 |
글또 5기를 시작하며 (0) | 2020.11.15 |