예스24 리뷰어클럽 서평단 자격으로 도서를 제공받아 작성한 리뷰입니다.
AI 프로젝트에 필요한 내용들이 가득들어 있습니다.
AI 프로젝트를 고려할 때 알아야 하는 것들
생성 AI/LLM이 만능은 아닙니다.
수많은 얘기와 기술이 나오고 있습니다. 이것도 할 수 있고, 저것도 할 수 있다면서 점점 더 무엇이든 할 수 있는 것처럼 비치고 있습니다.
머지않은 미래에는 그렇게 될 수 있겠지만, 지금은 아닙니다.
우리가 하려는 건 재주를 보고자 함이 아니라 일을 시키려는 것입니다.
모든 업무에는 고유한 환경과 지식 체계가 있습니다. 그에 따라 해당 분야가 생성 AI/LLM 에 적합지 판단해야 합니다.
생성 AI/LLM이 적합한 분야라면, 해당 비즈니스가 가지고 있는 도메인 지식을 생성 AI/LLM에 반영해야 합니다.
AI 프로젝트, 만날 수 있는 문제들
알고 있는 건 무엇이고, 모르는 건 무엇인지 알아야 합니다.
말장난처럼 보일 수 있지만, 생성 AI/LLM을 비즈니스에 도입하려면 다시 묻고 확인해야 하는 부분들이 있습니다.
지금껏 당연하게 여겼던 부분들도 AI를 도입하려면 다시 고민하고 검토해야 할 대상이 됩니다.
많은 AI 기술 가운데 선택한 기술이 비즈니스에 맞는지 알아야 하고, 해당 기술을 서비스로 구현하기 위한 아키텍처를 구성할 수 있어야 합니다.
비스니스에 적합하도록 하기 위해서는 적절하고 충분한 데이터도 필요합니다.
데이터에 발목 잡힐 일이 생각보다 많다는 걸 알 수 있습니다. 더하여 데이터가 존재하는 것과 AI가 내용을 읽고 이해할 수 있는 건 전혀 다른 문제입니다.
'쓰레기를 넣으면 쓰레기가 나온다'는 말처럼,
'데이터를 대충 알려주면 답변을 대충 한다'라고 이해하면 되겠습니다.
문제 해결을 위해 어떤 프로세스와 도구를 언제 어떻게 적용할지에 대한 판단도 필요하다고 알려줍니다.
AI 프로덕트, 기존 프로덕트와는 다르다
모니터링을 넘어서는 점검을 생각하다.
지금까지 알고 있던 제품이나 서비스와 근본적으로 성격이 다르다고 합니다.
데이터가 쌓여감에 따라 산출 결과는 달라집니다. 안타깝지만 대게 나쁜 쪽으로 흐를 가능성이 큽니다.
프로젝트를 시작할 때와는 달리 운영 과정에서 유입되는 데이터의 성격이 변하기 때문입니다. LLM 모델, RAG, 에이전트 모두 영향을 받습니다.
성능 평가가 필요한 시점인데, 곤란한 점은 평가 기준을 정하기가 쉽지 않습니다.
평가와 운영을 위해 확인해야 하는 내용들과 알아야 하는 내용들이 들어 있습니다.
AI를 사용하면 피할 수 없는 '비결정성'
AI의 능력을 활용하면서 만날 '비결정성'에 대응하는 방안들이 들어 있습니다.
일정이나 여러 상황에 치여 적당히 넘어가고 싶을 때 펼쳐보면 좋을 것 같습니다.
무엇을 해야 하는지 알 수 있으므로 상황과 방향을 다잡는데 큰 도움이 되리라 생각합니다.
