🍀 비사이드 407 포텐데이X클로바 스튜디오 해커톤 후기 : AI 서비스 개발
올해 새로운 도전으로 24.07.15부터 24.08.10(고도화 트랙 참여)까지 포텐데이 x 클로바 스튜디오 해커톤에 참여했다. 기획자(박예령, 서지연), 디자이너(이희재), 프론트(박민선), 백엔드(박지호) 5인으로 팀 빌딩을 진행 후 발표 준비에 어려움을 겪는 사용자들을 위한 AI 발표 준비 도우미 <또랑또랑> 서비스를 기획, 개발 및 배포하였다.
📌 프로젝트 깃허브, 배포 링크 및 서비스 소개서
현재 운영 중인 서비스입니다. 한 번 사용해 보세요!
- 또랑또랑: https://www.ttorang.site/
- 프로젝트 깃허브 : https://github.com/orgs/Ttorangttorang/repositories
- 프로젝트 서비스 소개서 : https://angry-mice-e3f.notion.site/395866ff990148659ec20768bfe2c084
- 네이버클라우드공식블로그(고도화트랙 결선발표) : https://blog.naver.com/n_cloudplatform/223558202721
- HyperCLOVA X 활용 사례 : https://clova.ai/hyperclova#case
Q. 프로젝트 소개
안녕하세요, 저희 발표명장 팀은 이번 비사이드와 네이버클라우드의 콜라보 해커톤인 407 포텐데이X클로바 스튜디오에서 HyperCLOVA X 를 활용해 AI 발표 준비 도우미, 또랑또랑을 출시했습니다.
또랑또랑은 발표 준비에 어려움을 겪는 사용자들을 위한 AI 기반 발표문 교정 & 예상 질문 제공 서비스입니다. 사용자가 입력한 주제와 목적에 맞춰 발표문을 교정하고 예상 질문과 답변을 제공하여 쉽고 빠른 발표 준비를 도와줍니다.
또랑또랑 서비스 주소
또랑또랑 주요 기능
- 발표 정보, 발표문 초안 입력
- HyperCLOVA X 로 교정된 발표문 도출 및 교정 부분 하이라이트 처리 & 개선 사항 확인
- 교정된 발표문 수정 및 발표 정보 변경 시 재 교정 가능
- 완성 발표문에 대한 HyperCLOVA X를 활용한 예상 질문 및 답변 도출
- 카카오 로그인을 통한 발표문 저장 및 수정, 삭제 가능
Q. Ncloud에서 활용한 서비스는?
또랑또랑은 2세대 Ncloud 서버를 활용해서 서버를 생성하며 HyperClovaX가 적용된 클로바 스튜디오 서비스를 적극적으로 사용했습니다. 기본 모델인 HCX-003과 경량화 모델 HCX-DASH를 적절하게 혼용하며 속도와 비용 측면에서 최적화를 진행하며, 정렬 학습을 통해 교정된 발표문, 예상 질문 및 답변을 도출하는 기능을 구현했습니다.
Q. Ncloud 서비스 적용 방법은?
Ncloud 서비스를 활용하여 구축한 또랑또랑의 전체 아키텍처는 다음과 같습니다.
HyperCLOVA X
사용자가 발표 정보와 초안 발표문을 입력하면, 사용자가 설정한 값을 엄격하게 준수하며, 해당 정보를 분석하여 풍부하고 명확한 발표 대본을 제공하도록 프롬프트를 작성했습니다.
서비스 특성상 사용자 요청이 2~3천 자 이상이 될 가능성이 있어, timeout 에러를 방지하기 위해 백엔드에서 비동기 방식으로 처리했습니다. Flux 방식을 사용해 적은 리소스로 더 많은 요청을 처리할 수 있도록 응답 처리를 구현했습니다. 프론트에서는 content-type이 'text/event-stream'인 데이터를 받아, 화면 구성에 맞게 파싱하여 사용자가 교정본과 예상 질문 및 답변을 확인할 수 있도록 했습니다
Q. Ncloud 사용 중 만족했던 점, 아쉬웠던 점은?
클로바 스튜디오 사용법이 자세하게 안내되어 있어, 처음 사용하는 경우에도 수월하게 활용할 수 있었습니다.
아쉬운 점은 다량의 텍스트가 입력 및 출력될 때 응답이 오래 걸린다는 점과, 한 번에 2개 이상의 다른 요청을 할 경우 일정한 패턴으로 값이 도출되지 않는 점이 있었습니다.
하지만 이러한 문제는 고도화 트랙을 진행하면서 사용성 개선에 맞추어 API를 분리하여, 답변 정확도를 높이고 소요 시간을 단축하였습니다.
Q. Green Developers 프로그램 참여 소감
생성형 AI 서비스를 구현해 볼 수 있어서 흥미롭고 유익한 시간이었습니다. 감사하게도 최종 결선까지 진출하게 되었는데, 다른 팀의 서비스에 대한 설명을 들을 수 있어 좋았고, 생성형 AI 서비스에 대한 시각을 넓힐 수 있어서도 좋았습니다.
Q. 마지막 후기
또랑또랑은 추가적인 고도화를 진행 중입니다.
최종 결선을 마친 후 받은 피드백을 바탕으로, 반응형 모바일 웹, 챗봇, API 응답 속도 개선, 클로바X 프롬프팅 고도화 등을 진행할 예정입니다. 이번 해커톤에서 멈추지 않고 계속 발전해 나갈 계획입니다.
또랑또랑 서비스
'Project' 카테고리의 다른 글
개인 블로그 구축 경험: Next.js, Notion API, AWS EC2 활용기 (5) | 2024.09.06 |
---|