요즘 『AI Engineering』이라는 책을 읽으면서, AI 개발을 대하는 내 생각에 꽤 큰 변화가 생겼다.
예전에는 데이터부터 긁어모으고 모델 가중치를 직접 깎는 '모델 훈련'에 목숨을 걸었다면 (왜냐면 데이터 사이언스를 공부했었어서ㅋㅋ), 이제는 이미 잘 만들어진 파운데이션 모델(Foundation Models)을 가져다 실제 비즈니스 가치를 만드는 '제품 구축'에 집중하는 시대가 왔더라.
거기에 내가 요새 고민하고 걱정하고 있는 것들에서 잠시 벗어나 뭔가 열정적으로 하고 싶은 것들을 찾아보니,, 사이드 프로젝트를 하면 되겠구나 싶었다. 그래서..! 새로운 사이드 프로젝트를 시작해 보려고 한다.
이번 프로젝트의 목표는 "복잡한 도메인 지식을 일반인 눈높이에 맞춰 쉽게 해석해주는 플랫폼"이다. 아이템은 전체 플랫폼 틀이 만들어지면 공개해볼 예정. 세상에는 진입 장벽이 높은 지식들이 너무 많다. 예를 들면 점성학의 '10하우스'나 사주의 '천을귀인' 같은 개념들. 근데 AI는 이런 복잡한 맥락을 파악하고, 사용자 수준에 맞춰서 친절하게 설명해 주는 데 진짜 탁월하다고 생각했다. 다만, 각 AI 서비스마다 다르게 해석하기에 뭔가 통일된 해석을 해주는 서비스를 한번 만들어보면 어떨까 싶다.
책을 읽다보니 옛날 방식처럼 옛날 방식처럼 Data → Model → Product 순서로 개발하는 건 이제 비효율적이라고 한다. 워크플로를 완전히 뒤집어서 역방향으로 간다고 한다. (아래 내용은 NotebookML을 활용하여 내 프로젝트 기획을 재해석해봤다.)
1. 일단 만들고 반응 보기 (Product) 처음부터 내 전용 모델 만든다고 힘을 빼지 말라고 한다. GPT-4 같은 범용 모델로 프롬프트랑 인터페이스(애플리케이션 계층)부터 빠르게 붙인다. 사람들이 진짜 이 '해석' 기능에 돈이나 시간을 쓸지 시장 반응부터 테스트하는 게 1순위라고 한다.
2. 나만의 해자(Moat) 파기 근데 GPT API만 덜렁 붙이고 끝내면 그냥 흔해 빠진 'AI 서비스 앱이 될 수 있으니..그리고 오픈AI가 모델 업데이트 한 번 세게 하면 API 구조나 기능이 바뀔 수 있기 때문에 하루아침에 망할 수도 있다. 방어력을 갖추려면 나만의 고유한 해석 로직과 전문 데이터(Context)를 RAG(검색 증강 생성)로 섞어 넣어야 한다고 한다.
3. 데이터 플라이휠 (Data → Model) 결국 사람들이 앱을 쓰면서 쌓이는 데이터랑 피드백을 모으고, 나중에 그 고유한 데이터를 바탕으로 내 모델을 직접 미세 조정(Fine-tuning)하고 최적화하는 단계까지 가는 게 최종 목표라고 한다.
일단 첫 프로토타입부터 빠르게 뽑아봐야겠다.