728x90
2024년 2월 6일 캐글코리아(오픈챗)에서 하나의 질문이 올라왔다.
" '신입' 이 AI 쪽으로 취업을 준비하면 무엇을 준비해야하나요? "
이 글에 대해 강천성(캐글코리아 운영진)님께서 답변을 해주셨고, 많은 분들이 구체적으로 듣고 싶다고 하셔서 긴급 구글 미팅을 열어주셨다
이때 들었던 내용을 정리해보았다.
모델 경량화 방법 :
1. 중간 레이어 제거
2. 중간 데이터 타입 변경(양자화?)
'신입' 이 가져야할 요소들
- 필수 : 자료구조, 알고리즘, 운영체제, 컴퓨터네트워크[데이터베이스 컴퓨터구조]
- 툴 : AirFlow, BackFlow, Docker, (쿠버네티스는 제외)
- 언어 : 파이썬 및 파이썬 언어 특성,
- 파이썬 레벨에서의 최적화 방법을 알면 좋음 : 하이퍼커넥트 테크블로그 파이썬 최적화 10가지
- 모델 서빙 : FastAPI, onnx, triton, bentoml 등
- onnx , tensorrt : 모델 실행 런타임
- triton , bentoml : 모델 서빙 프레임워크
- mle 개발 예제
https://mlops-for-mle.github.io/tutorial/ 쉬운버전
https://mlops-for-all.github.io/ 어려운버전 - CS 도서 추천 : 면접을 위한 CS 전공지식 노트
728x90