인공지능 프로그래밍 & PyTorch 딥러닝 실전
PyTorch를 도구로 삼아 딥러닝의 밑바닥부터 최신 신경망 모델까지 구현하는 12주 완성 코스입니다. 이미지 분류, 객체 검출, 자연어 임베딩을 직접 학습시키고 모델을 배포합니다.
딥러닝과 PyTorch 텐서(Tensor) 핵심 메커니즘
CPU/GPU 텐서 생성, 텐서 조작(reshape, transpose, squeeze/unsqueeze), GPU 메모리 관리
자동 미분 엔진(Autograd)과 신경망 학습 파이프라인
requires_grad, backward() 역전파, optimizer.zero_grad()와 step(), 손실 함수(Loss) 계산
다층 퍼셉트론(MLP) 구현 & 활성화 함수(Activation)
nn.Linear 선형 변환, ReLU/GELU/Sigmoid 활성화 함수, 가중치 초기화(Xavier/He Init)
커스텀 Dataset과 DataLoader & 데이터 증강(Augmentation)
__len__, __getitem__ 구현, 배치 처리, 셔플, torchvision.transforms를 활용한 이미지 증강
합성곱 신경망(CNN) 기초: 합성곱(Conv2d)과 풀링(Pooling)
수용 영역(Receptive Field), 채널과 커널, 스트라이드, 패딩, 피처맵 공간 크기 계산
클래식 CNN 아키텍처 분석: VGGNet, ResNet의 잔차 연결
경사 소실(Vanishing Gradient) 극복 원리, Skip Connection 구현, Bottleneck 블록
사전학습 모델(Pre-trained)과 전이학습(Transfer Learning)
ImageNet 가중치 로드, 백본 고정(Freezing)과 파인튜닝(Fine-tuning), 분류기 교체
시계열 및 순차 데이터 모델링: RNN과 LSTM/GRU
순환 신경망의 은닉 상태(Hidden State), 시퀀스 투 시퀀스, 장기 의존성(Long-term Dependency)
어텐션 메커니즘(Attention)과 트랜스포머(Transformer) 구조
Query, Key, Value 스케일 닷-프로덕트 어텐션, 멀티 헤드 어텐션(Multi-Head Attention) 수학
과적합(Overfitting) 방지 기법 & 정규화(Regularization)
드롭아웃(Dropout), 배치 정규화(BatchNorm) vs 레이어 정규화(LayerNorm), L2 가중치 감쇠
학습 모니터링: Weights & Biases(Wandb)와 TensorBoard
실시간 손실/정확도 로깅, 하이퍼파라미터 스윕(Sweep), 검증 데이터 예측 시각화
최종 프로젝트: 딥러닝 비전 분류기 학습 & TorchScript/ONNX 변환
커스텀 데이터셋 기반 최고 성능 모델 학습, 모델 직렬화(Serialization) 및 인퍼런스 최적화