2023. 2. 20. 17:06ㆍ딥러닝 이론
오늘의 공부: O.T., Ch1-3 에서 1-8까지
오늘 공부/복습한 내용은 선형대수-미적분에 관한 수학 내용이다. 빨리 deep learning부분을 배워보고 싶었지만 수업시간을 더 잘 활용하기 위해서는 foundation을 잘 짚고 넘아가기 때문에 강사님이 준비해 놓으신 수학 파트를 한번 훑어보기로 했다. 함수의 정의와 로그함수 부분은 먼저 뛰어넘었다... 다음에 헷갈린 부분이 있으면 다시 방문할 예정이다.
선형대수는 처음 듣는거라 내용이 많이 생소했지만, 미적분은 고등학교 때 배웠던 내용들이라 반가웠다. 강사님의 강의력은 아주 좋았다. 그럼에도 불구하고, 처음으로 접하는 내용일 경우 어렵게 느껴질 것이다. 물론 빨리 훑고 넘어 가는 거니 너무 신경 쓸 필요는 없는 듯하다. 지금 배우는 내용은 대부분 딥러닝이 기반하는 수학적 통계학적 지식이라 알고 가면 뒤에 가서 수업이 이해가 안 되는 경우를 대비하는 느낌이다.
TIL...
선형대수 (벡터와 행렬, 전치와 내적)
1. 행렬을 왜 쓰는가?
행렬은 여러 방정식을 한 식으로 쓰게 할 수 있어 데이터 처리에서 수월하다. 일단은 "연립 1차 방정식이" 뭔지 알아야 할것 같다.
왼쪽에 있는 이런 수식을 "연립 1차 방정식"이라 부른다.
방정식의 차수가 1이여서 "연립 1차 방정식"이라 부른다. 이는 중학생 수학시험에 나올 만한 문제 같다.
하지만 변수가 많아지고 수식들이 늘면 손으로 풀기에는 무리가 있다. 이럴 때 컴퓨터가 잘하는 단순 수학 계산을 시키기 위해서는 행렬이 딱 좋다. 이제 행렬의 기본 지식에 대해 알아보겠습니다.
2. 행렬 곱셈
강사님은 "뜨르륵 뜨르륵"이라 하는 행렬 곱셈법은 연습을 많이 하면 외울 수 있다 생각이 되네요.
3. 벡터의 크기 (L1-norm, L2-norm)
Vector의 대표적인 property는 magnitude와 direction이 있다. 간단하게 말하면 방향은 1차원에선 +, - 그리고 2차원에서는 origin과의 angle로도 표현이 가능하고 거리는 L1, L2-norm이 있다. 2차원의 그래프에서 L1, L2, Ln-norm을 구한다면 이 식을 쓰면 차이를 알 수 있다.
감사합니다~
'딥러닝 이론' 카테고리의 다른 글
| Day 6: Chapter 4-2 Backpropagation, 깊은 인공신경망의 학습 (0) | 2023.02.25 |
|---|---|
| Day 5: Chapter 4-1 MLP, 행렬과 벡터로 나타내기 & 왜 non-linear activation 중요할까? (0) | 2023.02.24 |
| Day 4: 왜 우리는 인공 신경망을 공부해야 하는가? Part 2 (0) | 2023.02.23 |
| Day 3: Chapter 3. 왜 우리는 인공 신경망을 공부해야 하는가? (Part I) (0) | 2023.02.22 |
| Day 2: 왜 현재 AI가 가장 핫할까? (0) | 2023.02.21 |