Google ML Bootcamp 2022
-
Google ML Bootcamp 3기 회고Google ML Bootcamp 2022/기타 2022. 9. 25. 13:08
지난 9월 19일 구글 머신러닝 부트캠프의 졸업식을 진행하였다 종강을 하고 합격 이야기를 쓰던 게 기억이 남는데, 벌써 개강을 하고 3개월이 지나 캠프까지 졸업하다니 신난다..! 3개월간 그래도 적지 않은 노력을 기울인 만큼 부트 캠프에 대한 전반적인 진행 방식과 콘텐츠와 그냥 내 생각을 가볍게 정리해두자 우선 먼저 부트 캠프 자체에 대한 이야기를 해보자 물론 제공하는 커리큘럼이나 세부 내용은 변경이 될 수 있기에, 내가 참여했던 3기 기준으로 참고만 바란다 부트 캠프에서 제공하는 것들은 미션, 네트워킹, 자격증, 테크톡, 취업 정보 정도가 있다고 생각한다 각 부분에서 아쉽거나 좋았던 부분을 정리하였다 커리큘럼은 전반적으로 크게 제한이나 의무가 많지 않은 자유로운 분위기였다. 1. 미션 (수업) 코세라 ..
-
Tensorflow Developer Certification 합격 후기Google ML Bootcamp 2022/certification 2022. 9. 10. 20:17
어찌어찌 TensorFlow certification이 자격증을 취득했다 시험 준비와 과정에 대해 기록해 두자 1. 시작 전 나의 상황 부트캠프 자격증을 TF로 변경하였다 코세라 강의는 수강을 끝냈지만, 텐서플로와 케라스는 잘 모른다 과제에 사용하기 위해 검색해서 아무튼 해결함이 전부? 텐서플로우라는게 있구나!라는 정도의 배경지식을 가지고 있다 자격증의 난이도가 그리 높지않고, 시간이 길고, 코세라 강의와 유사점이 굉장히 많기에, 아무것도 몰라도 취득이 막 어렵지는 않은 것 같다 2. 시험 공부 부트캠프에서 제공해 주는 코세라 수업을 들은 게 전부다 분량이 2~3분으로 귀찮게 많다 강의 내용이 뭔가.. "~~ 라는 게 있는데요 궁금하면 앤드류 응 교수님의 ~~ 강의를 참고하세요" 느낌이 많이 들었다 시험..
-
Sequence Models - 4 weekGoogle ML Bootcamp 2022/Coursera mission 2022. 8. 16. 01:42
Transformer Network Intuition 딥러닝에서 흥미로운 발전 중 하나는 트랜스포머 네트워크이다 이 아키텍처는 NLP 세계를 완전히 장악하고 있다 좀 복잡하니 부분 부분 알아보자 시퀀스 task가 복잡해질수록 모델도 복잡해진다 RNN의 장거리 정보 소실을 게이트로 해결하여 GRU, LSTM을 사용한 것처럼 말이다 복잡도는 증가하지만, 여전히 위 모델들은 시퀀스 모델들이다 동일하게 마지막 유닛 계산을 위해 나머지를 모두 계산해야 한다 트랜스포머 모델을 이용하면 전체 문장을 동시에 병렬적으로 연산할 수 있다고 한다 트랜스포머 모델은 어텐션 모델과 CNN을 결합한 느낌이라 한다 CNN에서 단어 픽셀을 단어에 맞춰 병렬로 처리한다 그런데 이때 어텐션을 줘서 처리를 하는 거지.. . 이를 위해 S..
-
Sequence Models - 3 weekGoogle ML Bootcamp 2022/Coursera mission 2022. 8. 14. 23:56
Basic Models 기계 번역과 음성 인식 등에 사용되는 시퀀스와 시퀀스 모델에 대해 배워보자 먼저 시퀀스 모델이 사용된 예시를 좀 알아보자 또한 이미지를 보고 설명하는 글을 만들어 내는 image captioning 도 할 수 있다 softmax 대신, encoding 된 벡터를 RNN decoder에 넘겨주면 된다 Picking the Most Likely Sentence 시퀀스 기계 번역 모델과, 첫 주에 배운 언어 모델은 몇몇 차이점이 있다 보라색 디코더는 위의 언어 모델과 굉장히 비슷하게 생겼다 입력이 영벡터나, 시드인 대신 인코더 네트워크에서 입력을 받는다는 차이가 있다 언어 모델이 p(y) 라면, 기계 번역은 p(y|x)인 느낌? 번역을 무작위로 한다면, 좀 이상한 문장이 나올 수도 있기..
-
수퍼 겁쟁이들의 쉼터Google ML Bootcamp 2022/certification 2022. 8. 12. 16:41
코세라의 GCP 자격증 수업을 모두 들었다 사실 중요한 게 무엇이고, 시험이 무엇이 나오는지 모르기에 그냥 러프하게 개념들을 이해한 수준이다 그래서 마지막 모의시험의 문제를 풀며 정리를 했다 무엇이 중요하고, 시험에서 어떤 유형으로 나오는지 알기 위해서 문제 은행에서 문제를 잔뜩 풀고 있었다 그런데 문득 드는 생각이 GCP 자격증으로 얻고 싶은건 데이터에 대한 개념이고, GCP 사용법이었다 개념은 수업으로 들었고, GCP 사용법은 실습으로 했으며 자격증 시험에는 나오지도 않는다 (객관식이니까) 그럼 이제 문제를 푸는 행동은, 그냥 단순히 자격증을 합격하기 위한 행동일 뿐 그 이상 그 이하도 아닌다 그걸 통해 내가 얻을 수 있는건 뿌듯함뿐이다 자격증 유효기간은 2년이라, 다음 학기 보내고 군대 다녀오면 사..
-
Sequence Models - 2 weekGoogle ML Bootcamp 2022/Coursera mission 2022. 8. 10. 01:39
Word Representation NLP에 대해 배워보자 단어를 나타내는 방법 중 하나인 word embedding을 배울 것이다 임베딩은 man-woman, king-queen처럼 무언가 유사성을 알아내는 것이다 지금까지 단어를 집합을 이용해 one-hot으로 표현했다 그렇기에 man-woman, king-queen이 일관적으로 벡터에 위치하지 않을 테니, 무언가 규칙을 학습하기가 쉽지 않다 일반화가 쉽지 않은 느낌? orange - juice를 학습한 후, apple - ? 에 juice를 넣기가 쉽지 않다 벡터 간 내적이 0이기에 apple이 king보다 orange와 비슷한 느낌의 단어라고 알 수가 없다 one-hot 대신 featurized representation을 이용하다 단어별로 특징의..
-
Sequence Models - 1 weekGoogle ML Bootcamp 2022/Coursera mission 2022. 8. 7. 02:22
Why Sequence Models? 드디어 마지막 미션이다 딥러닝의 흥미로운 분야 중 하나인 RNN (Recurrent Neural Network) 모델을 배워 볼 것이다 sequential model의 적용 예시를 몇 가지 알아보자 입력과 출력 모두 시퀀스 일 수도 있고, 둘 중 하나만 시퀀스 일 수도 있다 Notation Name entity 인식 문제 예제를 통해 알아보자 입력 시퀀스는 단어의 나열이다 각 단어를 위 첨자 을 통해 \(x^{}\)로 나타낸다 스퀀스의 길이는 \(T_x, T_y\)로 나타낸다 이 예제에선 둘이 같지만, 다를 수도 있다 다른 표기와 함께 사용하여 \(x^{(i)}\) i 번 예제의, t 번 시퀀스와 같은 표기를 할 수 있다 NPL에선 사용할 단어 목록을 먼저 만들..
-
Deep Learning SpecializationGoogle ML Bootcamp 2022/기타 2022. 8. 6. 21:58
코세라 미션은 앤드류 응 교수님의 Deep Learning Specialization을 수강하는 과정이다 강좌는 무료기에 위 링크에서 등록해서 들을 수 있고, 유투브에서 좀 더 멀쩡한 자막을 보며 공부 할 수도 있다 (그래도 퀴즈와 실습은 코세라에서 해야한다!) 더보기 1. Neural Networks and Deep Learning 2. Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization 3. Structuring Machine Learning Projects 4. Convolutional Neural Networks 5. Sequence Models 아래는 수업을 듣고 정리한 글 링크이다 처음 수업..