제주대학교 도서관에서는 학내 독서문화 활성화를 위해 매주 아침독서를 제공합니다.

◈ 아침독서 바로가기 <AI가 쉬워지는 최소한의 수학 >

◈ 아침독서 바로가기

 ※ 로그인 정보는 < 대학NO: jejunuac   ID: jejunuac   이름: 제주대학교>

[엮은이의 말]

챗GPT 상담사는 어떻게 사람처럼 대화할까? : 단어와 단어를 잇는 벡터

챗봇이 자연스러운 문장을 구상하는 방법

텍스트를 수학의 세계로 : 인코딩과 임베딩

챗봇이 언어를 이해하는 과정은 사람이 언어를 배우는 과정과 비슷합니다. 한글이나 외국어를 처음 배울 때 먼저 책에서 간단한 문장을 접하고, 그 후에 조금씩 많은 글을 접하면서 익숙해진 경험이 있을 거예요. 인공 지능도 이러한 학습 과정을 거치는데, 위키백과나 뉴스 기사, 소설, 대화 등 다양한 출처에서 수백만 개의 문장을 수집하고 분석하면서 언어의 패턴을 학습합니다.

학습 과정은 크게 두 단계로 구분할 수 있습니다. 먼저, 글의 형태를 띠는 텍스트 데이터를 수집해서 컴퓨터가 처리할 수 있도록 다듬은 다음, 숫자로 변환하는 ‘전처리 과정’입니다. 그 후에는 조건부 확률(conditional probability)을 활용하여 각 단어의 의미를 벡터로 표현하는 ‘임베딩 학습 과정’이 따라옵니다. 이 두 과정을 거쳐 컴퓨터는 드디어 인간의 언어를 수학적으로 이해합니다. 각 단계를 한번 차근차근 살펴보겠습니다.