Open Knowledge의 교육 플랫폼 School of Data에 챗봇 제작 강좌 ‘How to Build a Responsible AI Chatbot Using Open Technologies’가 올라왔다. 기후 분야 챗봇 CABot을 만든 #semanticClimate 팀이 그 경험을 교육 과정으로 옮긴 것이다. 교육자, 연구자, 지역 단체 활동가가 자기 분야의 지식으로 챗봇을 직접 만들어 보도록 돕는 데 초점을 맞췄다.
- 규모와 방식: 5개 모듈, 35개 레슨으로 이루어진 실습 중심 과정이다. CABot은 Climate Academy 자료를 지식 기반으로 삼아 답한다.
- 학습 흐름: LLM이 문장을 만드는 원리와 환각이 생기는 이유에서 출발한다. 이어서 RAG의 핵심 개념인 임베딩, 의미 검색, 벡터 데이터베이스를 배우고, 브라우저 화면부터 모델까지 이어지는 챗봇 전체 구조를 다룬다.
- 책임 있는 설계: 환각을 줄이는 방법과 모든 답변에 출처를 붙여야 하는 이유를 다룬다. 공정성, 개인정보, 환경 지속가능성도 AI 시스템의 설계 문제로 본다.
- 마무리 과제: 다국어 챗봇을 만들고 언어별로 성능을 평가하는 캡스톤으로 끝난다.
- 공개 범위: 오픈 기술과 오픈소스 코드로 구성되며, 전체 저장소가 GitHub에 공개되어 있다. 강좌는 영어로 먼저 나왔고 다국어판은 번역 중이다.
공공 데이터나 기관 문서를 바탕으로 질의응답 서비스를 만들려는 팀에게 참고할 만한 자료다. 모델이 아는 대로 답하게 두지 않고, 검증된 자료를 검색해 그 범위 안에서 답하게 하며, 출처를 함께 보여 주는 구조를 처음부터 끝까지 따라가 볼 수 있다. 오픈 데이터 포털의 데이터셋 설명이나 지침 문서를 대상으로 한 안내 챗봇을 시험해 보려는 경우에 특히 맞는다. 내부 교육 자료로 쓰거나, 외부 API에 의존하지 않는 가벼운 프로토타입의 뼈대를 잡는 용도로도 좋다.
다만 몇 가지는 직접 확인해야 한다. 지금은 영어판만 있고, 한국어 질의에서 임베딩과 검색 품질이 어떻게 나올지는 소개 글에 나오지 않는다. 다국어 평가 모듈이 있으니 그 방법을 한국어 데이터에 적용해 보는 것이 첫 실험으로 적당하다. 또 이 글은 강좌 소개 페이지만 보고 쓴 것이라 레슨별 난이도나 실습 환경 요구 사양은 알 수 없다. 도입을 결정하기 전에 몇 개 레슨과 저장소를 먼저 훑어보길 권한다.
원문: New Course: How to Build a Responsible AI Chatbot Using Open Technologies (Open Knowledge Blog)