[디지털데일리 이나연기자] 메타가 운영하는 사회관계망 서비스(SNS)인 페이스북, 인스타그램, 왓츠앱에 인공지능(AI) 챗봇 ‘메타AI’가 탑재됐다. 작년 9월 베타(테스트) 버전으로 선보인 지 7개월 만이다.
메타 AI는 이용자 질문에 무료로 답변을 제공하거나 이미지·애니메이션 등을 생성할 수 있다. 미국과 캐나다, 뉴질랜드 등 영어권 10여 개국에서 서비스를 우선 개시했다. 한국과 유럽연합(EU) 등에서 출시 계획은 미정이다.
18일(현지시간) 저커버그 메타 최고경영자(CEO)는 “메타AI는 이제 자유롭게 사용할 수 있는 가장 지능적인 AI 비서가 될 것”이라며 메타AI의 기반이 된 차세대 대규모 언어모델(LLM) ‘라마3(Llama 3)’를 오픈소스로 공개했다.
라마3는 사전훈련과 미세조정을 마친 80억 개(8B)와 700억 개(70B) 매개변수 모델 두 가지다. 메타 측은 라마3의 다중작업언어이해(MMLU) 테스트에서 구글 ‘제미나이프로 1.0’을 앞섰다고 강조했다.
라마3의 성능 향상은 모델의 사전 훈련과 사후 훈련 과정을 고도화해 이뤄졌다. 사전 훈련을 위해 데이터셋의 양을 늘리고, 필터링 과정을 거쳐 고품질 데이터만을 선별했다. 라마3는 15조 이상의 토큰으로 훈련됐으며, 이는 라마2 대비 7배 이상 많으며 코드량은 4배 더 많다.
또한 라마3의 사전 훈련엔 일상적인 질문부터 과학, 기술, 공학, 수학(STEM) 분야, 코딩, 역사 지식에 이르기까지 다양한 분야의 데이터셋이 사용됐다. 사전 훈련의 규모를 확대하고 보다 고도화된 ‘지시 미세조정(instruction fine-tuning)’ 과정도 진행했다.
오픈소스인 라마3 모델의 안전하고 책임감 있는 개발과 사용을 위한 다양한 안전장치도 마련했다. 지시 미세조정된 모델은 전문가와 자동화된 도구를 활용한 레드팀 훈련을 통해 부적절한 답변의 가능성을 최소화했다.
‘라마 가드2(Llama Guard 2)’, ‘코드 쉴드(Code Shield)’, ‘사이버 보안 평가 기준2(CyberSec Eval 2)’와 같은 안전 장치와 더불어 새로운 안전 도구들도 도입했다. 이번 라마3 공개와 함께 대규모 언어모델을 책임감 있게 사용하는 방법을 설명하는 ‘책임감 있는 사용 가이드라인’도 업데이트됐다.
메타는 투명하고 안전한 AI 개발을 위한 개방형 접근 방식에 따라 8B와 70B 매개변수 모델을 먼저 선보이며 연구원과 개발자의 피드백을 통해 지속 발전시킬 방침이다. 현재 훈련 중인 더 큰 규모의 모델 역시 추후 오픈소스로 공개한다.
메타 측은 “라마3를 더 긴 컨텍스트를 이해하는 다국어 멀티모달 모델로 발전시키고, 전반적인 성능을 지속 개선시키는 것이 궁극적인 목표”라고 전했다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
[윤석열 파면] 헌재 “야당의 방통위원장 탄핵소추, 계엄령 요건 될 수 없어”
2025-04-04 16:47:39SKT 유영상 “돈버는 AI 성과 본격화”…AI 성과 가시화 재차 강조
2025-04-04 10:44:29'尹 운명의 날'…통신3사, 탄핵선고 앞두고 총력 대비
2025-04-04 10:08:18[단독] 유료방송 위기여파 PP로…“콘텐츠 사용료 약 1200억원 감소 전망”
2025-04-03 17:44:35[DD퇴근길] 5대 AI에게 물었다…"尹 탄핵심판 결과, 어떨 것 같니?"
2025-04-03 17:13:51[인터뷰] 이해민 의원, "美 통상마찰 없이 '망 무임승차' 해결하려면"
2025-04-03 15:59:44[윤석열 파면] "네이버·다음 프로필, 前 대통령"…페북·인스타 소개글은?
2025-04-04 18:23:30엔시티 위시, 엠넷플러스 '숨바꼭질' 두번째 플레이어로 출격
2025-04-04 17:44:41[DD퇴근길] 윤석열 대통령 파면…ICT·산업계 미칠 영향은?
2025-04-04 17:16:48[윤석열 파면] '탄핵 기념 정식' 인증샷 급증…中 포털서는 실시간 검색어 1위도
2025-04-04 16:49:16우아한형제들, 독일 모기업 DH 자사주 매입·소각…5372억원 지급
2025-04-04 16:48:46우아한형제들, 지난해 매출 4조원 벽 뚫었지만…무료배달 경쟁에 영업익 감소
2025-04-04 15:16:39