daniel7481의 개발일지

피어세션 오늘은 Transformer와 Generative Model 부분을 공부했는데, 내용이 어려워서 이해가 안되는 부분이 많았다. 그래서 여러 가지 질문을 하게 되었다. Q. encoder를 word embedding을 담당하는 module이라고 생각해도 될까요? Token은 문장에서 단어를 나누는 기준으로 알고 있는데, tokenizer도 encoder의 한 종류인가요? 여기서 word embedding과 encoder를 혼동하였는데, 둘은 별개의 개념이다. encoder에는 이미 word embedding 된 벡터 값이 들어가는 것으로, Tokenizer은 word embedding의 일부이다. Encoder는 embedding된 벡터 간의 관계를 학습하는 장치라고 이해하였다. 공부 회고 Tra..

피어세션 공휴일인 월요일에도 편히 쉴 수는 없었다. 강의를 듣고 과제들을 나눠서 푸는 공휴일이었다. 먼저 Leetcode 70.Climbing Stairs 문제를 풀었는데, 계단 오르기 같은 웰 노운 DP 문제였다. 지난 주 챌린지였던 어디서 어떤 데이터를 어떻게 모을지에 대해서 다음과 같은 의견들이 나왔다. AI 허브, 통합 데이터 지도, Kdata 데이터 안심구역 현업 로그 데이터를 수집해서 사용 강아지를 잃어버린다면… CCTV 영상 활용 공공빅데이터 청년인턴 직접 데이터 수집, 신뢰도 낮음 → 매년 데이터를 쌓아서 개선하는 방법 산업과 연계, 크롤링, 건설분야의 경우 학회 데이터 NLP QA 데이터셋은 어디서? Data extraction으로 만들기 or 질문 데이터 직접 만들기 or prodigy..

피어세션 오늘은 내가 모더레이터를 맡은 시간이었다. 아침에 구간 합을 구하는 알고리즘 문제를 풀고 설명한 후, 데일리 스크럼 시간에 각자 오늘 할 일들을 정리하였다. 또한 논문에 대한 얘기가 나왔는데, NLP에서 기본이 되는 논문들(transformer, attention)등을 하나씩 읽어보자고 의견이 나왔다. 물론 할 의향도 있지만 아직은 하기로 한 일이 많아서 추후 상황을 지켜보기로 하였다. 스페셜 피어세션 새로운 캠퍼 분들을 만나는 것은 설레고 떨리기도 했다. 당연히 처음에는 어색했지만, 자기소개를 하면서 점점 친해져가기 시작했다. 나는 자기소개를 하면서 굉장히 많은 말들을 하였다. 개발 공부를 시작한 이유부터 부캠에서 얻어가고 싶은 것들 등등, 얘기를 하다보니 전부 다 털어놓듯이 얘기했다. 이렇게..

AI Tech 부캠의 특권 중 하나인 온보딩 키트가 도착했다. 정성이 가득 담긴 간식들과 스티커, 에코 백 등 정말 마음에 드는 물건들을 받았다. 운영진 분들의 노고와 정성이 담긴 키트였다. 다들 온보딩 키트를 위해서도 꼭 AI Tech 지원 하길 바란다!!

피어세션 오늘은 dp 문제 기본 중에 기본이라고 할 수 있는 파보나치 수열 문제를 풀었다. 풀이 방법은 다들 알거라고 생각한다. 오늘 기본 과제 제출 날짜이기 때문에 기본 과제 완료 후 제출하고, 남는 시간에 신청한 공모전 자료조사를 진행하기로 하였다. 오늘의 챌린지는 오늘 하루 부덕이를 프사로 하기였고, 나는 슬랙에서 내 프사를 부덕이로 바꿨다. 참고로 부덕이는 AI Tech 부캠의 마스코트다. 피어세션 시간에는 심화 과제 1을 같이 보았다. 문제를 보던 중 Linear Layer에서 bias를 초기화 할 떄 uniform 초기화해줄려고 하였는데, 입력 피처의 개수를 알아야 할 때 parameter의 size의 1번쨰 인덱스를 가져오는 것이 이해가 되지 않았다. 입력 피처를 가져오려면 당연히 첫 번쨰 ..

피어세션 오늘 또한 그리디 알고리즘 문제로 아침을 시작했다. leetcode 455.Assign Cookies였는데 정렬을 해준 후에 탐색을 하며 쿠키가 아이 greed에 맞으면 하나씩 더해주는 식으로 풀었다. 다들 데일리 스크럼 시간에 기본 과제1과 과제2를 끝내기로 마음을 먹었고, 빅데이터 분석 준전문가/전문가 등 자격증에 관한 얘기를 나눈 후, 챌린지는 좋아하는 노래 가사 두 줄 쓰기였다. 피어세션 시간에는 과제 1에 대한 질문이 있었는데, torch.tensor과 torch.Tensor의 차이를 물어보는 문제였고, 가장 큰 차이점은 tensor는 함수고 Tensor는 클라스라는 점이었다. 또한 tensor는 dtype이 그대로 유지되는 반면 Tensor는 Tensor.float으로 변환된다는 차이..