"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."
사람과 AI 에이전트 사이 신뢰를 얘기하는 내용이라고 생각합니다.
사실 일반적인 소프트웨어를 얘기할 때 신뢰라는 단어를 떠올리는 일은 드뭅니다. 하지만 AI 에이전트라는 새로운 형태가 등장하며 이 개념은 비로소 조명받기 시작합니다. 이는 기존 프로그램 개발 방식에서 말하는 '사용자 친화적'이라는 개념과는 다릅니다. 그렇다면 AI 에이전트는 왜 이렇게 사용자의 신뢰를 얻으려고 하는 걸까요? LLM이 가지는 태생적 특성인 비결정성 때문입니다.
UX에 대한 내용이 인상 깊었습니다. 여기서 받은 느낌이 책을 읽는 내내 머릿속을 떠나지 않았습니다.
AI 에이전트는 정확히 얘기하면 에이전트를 만드는 사람들은 에이전트가 사람과 더 가까워지기 위해 끊임없이 궁리하고 사람을 이해하려 노력합니다. 그래야만 AI 가 내놓는 결과를 대하는 사용자의 반응에 적절하게 대응할 수 있고, 사용자가 AI 에이전트를 자연스럽게 받아들일 수 있기 때문입니다. 이 과정에서 책에서 사용자로 불리고 있지만 사실은 인간을 말하고 있다는 느낌을 받았습니다.
그리고, 어느 정도 경계가 필요하다는 생각도 들었습니다. 선을 넘지 않아야 한다는 생각이었습니다.
사용자를 알아가는 건 좋지만, 한걸음만 벗어나면 전혀 다른 길로 갈 수 있기 때문입니다. 의도적으로 사용자에게 잘못된 정보를 제공하거나 교묘하게 방향을 왜곡할 수 있을 것으로도 보였습니다. 도구 개발 부분에서 AI 에이전트가 스스로 코드를 생성하는 부분을 보며 그럴 가능성도 있겠다는 생각이 들었습니다.
UI를 만들어 사용자에게 제공하는 과정을 반복하며 사용자를 특정 방향으로 유도할 가능성도 있겠다는 생각이 들었습니다.
너무 앞서 간 것 같아 상상을 펼치는 건 여기까지만 하겠습니다.
AI 에이전트를 만들며 마주하게 될 고민과 챙겨야 할 항목들, 기꺼이 받아들여야 할 내용들이 명확한 설명과 함께 담겨있습니다.
관련 분야에서 경험을 쌓아온 분이라면 한 번쯤 머릿속을 스쳤을 법하거나, 떠올릴 수 있는 생각들입니다. 물론 사람마다 가진 경험과 지식에 차이가 있으니 비슷한 생각을 떠올리는데도 시간과 분량은 다를 수 있습니다.
하지만 '생각만 해보는 것'과 '글로 정리하여 내놓는 건' 전혀 다른 일이라 생각합니다.
머릿속 생각은 생각으로만 끝날 가능성이 높지만, 글로 정리된 내용은 읽는 사람에게 시야를 넓힐 기회를 주고 깊이 생각할 수 있는 실마리를 제공하기 때문입니다.
AI 에이전트의 현재와 미래를 이해하는데 좋은 시작점이 될 것이라고 생각합니다.
