[우아콘2023] 배민의 GPT 활용법, ‘마라탕’ 말고 ‘퇴근길’ 검색해보세요

실시간
뉴스

인터넷

[우아콘2023] 배민의 GPT 활용법, ‘마라탕’ 말고 ‘퇴근길’ 검색해보세요

디지털데일리 발행일 2023-11-15 17:46:26

이안나 기자

URL복사

[디지털데일리 이안나 기자] 올해 정보기술(IT) 업계 가장 화두가 된 것 중 하나는 오픈AI가 만든 ‘챗GPT’다. 이를 계기로 주요 플랫폼 기업들은 생성형AI라는 기술을 어떻게 활용해야 할지 고심하게 됐다. 배달의민족을 운영하는 우아한형제들도 마찬가지다. 배민은 가장 발전된 기술을 가지고 사용자 리뷰를 분석, 상황별 맞춤 상품을 추천해주는 데 사용한다.

오혜진 우아한형제들 GPT서비스팀 팀장은 15일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 ‘우아한테크콘퍼런스 2023’에서 배민이 GPT를 서비스에 적용하기까지 과정을 소개했다. 오 팀장이 속한 GPT서비스팀은 연초부터 GPT 기술을 배달의민족 서비스에 어떻게 적용할지 고민하기 시작해 지난 6월부터 본격적인 업무를 시작했다.

배민은 사용자들이 모바일 앱에 접속하기 전, 구체적인 가게나 메뉴를 정하지 않고 접속한다는 점에 주목했다. 즉 리뷰 데이터를 통해 고객이 음식을 주문하는 맥락을 이해하고, 상황에 따른 음식 메뉴를 추천하는데 GPT를 활용하는 결론을 내렸다.

오 팀장은 “생각보다 많은 사용자들이 자신이 어떤 음식을 어떤 맥락으로 주문했고, 어떤 생각을 가졌는지 리뷰에 남기는 경우가 많다”며 “고객이 원하는 메뉴가 있다면 리스트를 제공하고, 맥락 같은 정보를 제공해 선택에 도움을 줄 수 있도록 GPT라는 기술을 사용하기로 했다”고 말했다.

실제 배민은 지난 10월부터 서울 송파구에서 사용자 경험을 리뷰 데이터로 탐색한 서비스를 시범 운영하고 있다. 보통 배민 앱에서 사용자들이 검색을 할 땐 ‘김밥’, ‘떡볶이’ 등 메뉴명을 검색해야 했지만, 일부 지역에선 사용자 상황이나 맥락을 입력하는 것도 가능하다.

가령 배민 앱에 주소지를 ‘잠실역’으로 설정하고 검색창에 ‘퇴근길’을 검색하니 배민이 GPT 기반으로 만든 ‘뚝딱이’가 등장하고 ‘퇴근하고 먹는 통닭구이’ 등을 추천한다. ‘아이’를 검색하면 ‘아이도 좋아하는 오일파스타, 아이도 좋아하는 막국수’ 키워드가 나오고 구체적인 추천 가게들을 보여준다. ‘혼자’, ‘스트레스’ 등 키워드 입력도 가능하다.

배민이 GPT 기반 서비스를 선보이기까지 과정이 순탄했던 것만은 아니다. 여러 GPT 모델을 운영해보고 비용 및 성능면에서 적절하다고 판단한 GPT4를 우선 선정했다. 사람들이 사용하는 챗GPT는 ‘실시간성’이 특징이지만 배민은 오랜 고려 끝에 당장 실시간 서비스를 도입하진 않았다.

그 이유에 대해 오 팀장은 “사용자들이 혹여 유해한 질문을 챗GPT에 입력했을 때 뭐라고 답하는 것이 맞는지 고민이 있었고, 없는 사실을 지어내는 현상도 어떻게 제어할지 초반에 감이 없었다”며 “특히 배민은 점심과 저녁 시간대 사용자 접속량이 많은데, 챗GPT와 대화를 하려 할 때 그 트래픽을 감당할 수 있을지 고민도 있었다”고 설명했다.

실제 챗GPT는 정상작동되기 위해 분당 호출 수나 분당 토큰 수를 제한하고 있고, 속도가 느려 사용자들이 답답해할 수 있다는 우려도 있었다.

리뷰 데이터를 활용하기로 한 배민은 사람들이 우려하는 지점에 대해서도 보완하기 위해 노력했다. 개인정보와 지적재산권 측면에서 안전장치를 마련하기로 한 것. 개인정보 이슈가 있거나 차단된 리뷰는 활용하지 않고, 작성한지 최소 5일이 지난 리뷰를 활용한다. 또한 리뷰 데이터 중에선 필요하다고 생각하는 일부 키워드 외에 다른 것들은 사용하지 않는다.

배민 GPT 적용 서비스는 이제 시작단계다. 최근 생성형AI 모델이 계속 출시되고 있기 때문에 배민은 어느 모델을 사용해야 가장 효과적일지 검토 작업도 계속한다. 또한 새로운 기술을 쓰는 서비스인 만큼, 법무팀 등 여러 부서와 협업해 리스크 검토도 체계적으로 진행할 계획이다.

오 팀장은 “최근 가장 주안점을 두고 있는 영역은 서비스가 실제 안전하게 돌아가기 위한 가드레일 부분”이라며 “법률적으로 위배될 소지는 없는지, 환각 현상이 발생하진 않는지 고민을 계속하고 있다”고 더붙였다.