개인 AI학습 정리

 

1. Agentic AI

- 사람 간섭 없이 AI가 판단

- 목표만 주면 스르로 설계

- Human in the Loop로 사람에 개입 지점(책임)을 정의 필요

 

2. RAG(Retrieval-Augmented Generation)

- 별도 학습없이 정해진 데이터에서만 추출하는 기술

 

3. 파인튜닝

- AI가 자료를 학습(모델 자체에 새겨넣음), 자료를 봐뀌면 재학습해야하고(자료 자주 봐뀌면 비쌈), 초기비용도 큼, 대신 응답속도가 빠름

  결국 도메인과 톤 스타일을 학습시키는거

 

4. 백터DB

- 글을 숫자로 저장 후 검색 가능한 파이프라인 형태로 저장 후 검색시 유사한 숫자를 불러옴

 

5. API(Application Programming Interface)

- 서로 다른 S/W가 서로 데이터를 주고받는 기능

- API 토큰을 통해 사용 과금에 기준으로 삼을 수 있음

* 토큰 비용 = 입력 토큰 X 입력 단가 + 출력 토큰 X 출력 단가

/ 한글은 영어대비 비용이 약 2배 

/ 입력이 출력에 20~100배 비쌈, 출력은 AI가 생성함

 

6. MCP(Model Context Protocol)

- API에 진화형으로 API에 연결을 더 쉽게 만들어줌

 

7. 온프레미스와 Saas(Service as a Service, 클라우드)

- 구축형(온프레미스), 클라우드 기반 월 구독 서비스(Saas)로 나누어져 있음

 

8. 주요 용어

LLM, RAG, Agentic AL, HITL, 파인 튜닝

 

9.  통신3사 AI

- KT: 믿:음 2.0 SKT=MS,  SKT A.X 4.0=Claude, LGU+: 익시젠(Exaone기반)=GPT

LG장점: 통신데이터특화, IPCC운영화 등

 

10. 트랜드

- 결과 단위 과금(해결된 대화 1건당 0.5$, 적격 리드 1건당 1$)

-> 고객의 도입 결정을 쉬워진다. 

 

11. 페인포인트

1) 보안 규제 민감형: 외부 LLM호출 어려움

2) 숙련 노하우 디지털화: 기본 전제는 데이터가 어떤 형태로 얼마나 있는지 중요

3) 24/7응대

4) 백오피스 효율화

 

12. 글로벌 3세대 신규 솔루션

- Sierra - AI Agnet가 고객을 직접 응대해주는 솔루션 보유

- Decagon - 씨에라랑 동일(듀오링고 같은 교육용으로도 쓰임)

- Cresta - 상담어드바이져