안녕! 

주말에 심심하기도 하고 해서 이렇게 또 글 들고 왔다 ㅇㅇ

이번에는 " 외전: 알아두면 좋지만 몰라도 별 문제 안되는 AI 용어정리"를 가져와봄

말 그대로 알아두면 개발자들이랑 이야기할때 오 이게 뭔소리구나 정도로 이해할 수 있지만 현실에서는 그닥 쓸 일 없는 그런 용어 모음....?

따진다면 이번 내용이 심화편이라 "난 이정도로 공부할 필요는 없는거같음!" 하는 덬들은 안읽어도 됨

기초 + 실무적용편은

----

1편)AI기초 원리 + 간단 프롬프트 작성법: https://theqoo.net/square/4105745873

2편)AI실무 적용 방법(사무직 기준):https://theqoo.net/square/4108181686

3편)거짓말 줄이는 프롬프트 작성 방법:https://theqoo.net/square/4108310183

----

으로 썼으니 궁금한 덬들은 다시 살펴봐 ㅇㅇ

(할일은 밀렷지만 글로 도피하는 원덬이 모습)

그럼 시작한다!

-----

1.LLM

Large Language Model:  대규모 언어모델

엄청 많은 텍스트 데이터를 학습해서 "다음에 올 말"을 예측하는 모델.

1편에도 정리했는데 기억하는 덬들 있으려나?

생성형AI중에서도 언어 특화된 모델임

2. 프롬프트

AI한테 치는 질문이나 명령어 그 자체를 프롬프트라고 함

"보고서 요약해줘"도 프롬프트고 "마케팅 전략 짜줘"도 프롬프트임

"프롬프트 엔지니어링"은 이 질문을 잘 짜는 기술을 뜻함

관련 자료 찾는다면 ebs에도 강의 있고 유튭, 뉴스레터 등 구독해서 보는게 좋음.

원덬은 트위터에서 AI 관련 기술 트윗+ 링크드인 구독으로 자료 얻는 편

3. 환각(Hallucination:할루시네이션)

AI가 없는 사실을 있는 것처럼 그럴듯하게 지어내는 현상

이 환각 현상은 내용 관련해서는 1,3편에 자세하게 다뤘어.ㅇㅇ

한줄로 요약하자면

"의도적 거짓말이 아니라 통계적으로 그럴듯한 다음 말을 생성하다 보니 생기는 구조적 한계"

4. 토큰

AI가 글을 읽고 쓸 때 사용하는 단위임

글자도 아니고 단어도 아니고 그 중간 어딘가

"AI" → 1토큰

"인공지능" → 2~3토큰

"나는 오늘 점심을 먹었다" → 대충 7~10토큰

이런식임 

그럼 이거 언제 씀? 

대표적으로는 Ai가 질문을 어떻게 처리하는가에서 알 수 있음

입력된 문장을 토큰 단위로 분리 → 토큰을 임베딩(글자를 AI가 계산할 수 있는 숫자로 바꾸는 것)함 → 어텐션으로 문맥 파악

요 순으로 질문 이해하는거ㅇㅇ 

여기서 어텐션은 쉽게 설명하자면 모든 토큰이 다른 토큰과의 관계를 계산해서 "이 단어가 이 문장에서 어떤 의미인지"를 파악하는 거임.

예를 들어 "배가 아프다"에서 "배"가 과일인지 신체부위인지 선박인지를 주변 토큰("아프다")과의 관계를 통해 판단함.

그래서 토큰이란 단어 어디서 많이 보냐 ?

• 토큰 제한 때문에 AI한테 넣을 수 있는 글 분량에 한계가 있음 

• api 사용 시 요금이 토큰 기준으로 나감

• 토큰 한계 때문에 긴 문서 넣었는데 뒷부분을 무시하거나 잘리는 현상 일어남

등등..

참고로 한국어가 영어보다 토큰을 더 많이 먹음. 같은 내용이어도 한국어로 치면 영어보다 1.5~2배 정도 더 나감

그래서 전에 "프롬프트를 영어로 쓰면 좋다"고 한 이유 중 하나이기도 함

Q. 이정도는 아는데요

A. 아그래 그럼 빡세게 가보자구!

5. 멀티모달

텍스트만 되는 게 아니라 이미지, 음성, 영상, 파일 등 여러 형태를 같이 처리하는 것

예전 AI: 글만 읽고 글만 씀

지금 AI: 사진 보여주면 설명하고, 문서 넣으면 읽고, 음성도 알아들음

"멀티모달 지원" = "텍스트 말고 다른 것도 됨"

Q.요즘엔 대부분 지원되던데 왜 이런걸 알아야해여?

A.멀티모달 되는 모델이 처리할 게 더 많으니까 당연히 더 느리고, 더 비쌈 ㅇㅇ 

텍스트만 필요한 작업에 멀티모달 모델 쓰면 괜히 비싸고 느린 거고, 이미지나 파일 분석이 필요하면 멀티모달 되는 모델을 골라야 하는 거임. 뭐가 되고 안 되는지 알아야 도구를 제대로 고르니까.

6. RAG

Retrieval-Augmented Generation의 약자 = 검색 증강 생성

AI가 답변하기 전에 관련 자료를 먼저 검색해서 참고하게 만드는 방식

딥리서치 기능이 RAG 원리를 사용한 대표적 예시임 

일반 AI = 시험을 머릿속 기억만으로 치는 것 → 구라 확률 높음

RAG 적용 AI = 오픈북 시험 → 자료 보고 답하니까 구라 확률 낮음

사내 문서 기반 AI 챗봇 만든다고 하면 거의 100% RAG 사용해서 구축함

우리 회사 자료를 AI한테 참고자료로 쥐여주는 것ㅇㅇ

7. AI 에이전트

요즘 AI관련  뉴스에서 제일 많이 나오는 단어고 1편에서도 잠깐 언급했었음 ㅇㅇ

2025 중순부터 초대박낫고 요즘에는 여러 에이전트끼리 협업하는 형식의 멀티 에이전트도 많이 언급됨.

기존 AI: 네가 시키는 거 하나만 함. "이메일 써줘" → 이메일 써줌. 끝.

AI 에이전트: 목표를 주면 알아서 여러 단계를 계획하고 실행함.

비서한테 일 하나하나 지시하는 게 기존 AI라면

에이전트는 "알아서 해줘"가 되는 비서

+++개발 쪽 취준생/이직러 한정 꿀팁+++

요즘 채용공고 보면 에이전트 개발 가능한 사람 구하는 데가 많음.

LangChain/LangGraph, CrewAI 등으로 자체 에이전트 한번 만들어보는 거 추천...!

8. 파인튜닝

이미 만들어진 범용 AI를 특정 분야에 맞게 추가 학습시키는 것

쉽게 설명하자면,

AI가 우리 회사 말투, 우리 업계 용어, 우리 데이터에 맞게 작동하도록 추가 교육을 하겠다는 이야기임

"모델 파인튜닝 해야 한다" = "범용 AI를 우리 회사에 맞게 커스텀 학습시켜야 한다"

로 이해하면 좋음!

9. API

AI를 채팅창이 아니라 프로그램끼리 연결해서 쓰는 방식

사실 API 자체는 꽤 이전부터 있던 개념 (ex: 통계청 api로 데이터 다운받아놔/ 웹 api 명세서 만들어놨어요?)이라 다들 익숙한 단어일거 같은데(아닌가)

AI에서도 같은개념임 

핵심은 채팅창을 거치지 않고 우리 시스템에서 직접 AI를 호출하는 방식이라는 거.

ChatGPT 채팅창 = 식당에 직접 가서 주문하는 것

API = 배달앱으로 주문하는 것. 내가 식당에 안 가도 음식이 우리 시스템으로 옴

10. 오픈소스 모델

누구나 무료로 다운받아서 직접 돌릴 수 있게 공개된 AI 모델

대표적으로 Meta(페이스북)의 Llama, 구글의 Gemma등이 있음..

근데 그게뭐에요 싶다면.. 그 유명한 딥시크가 오픈소스 모델 중 하나임

근데 이게 왜 필요하냐?

 ChatGPT, Gemini 같은 서비스의 경우엔 내 데이터가 그 회사 서버로 가서 답을 출력해 가져오는 형태라 데이터 유출이 불가피하고, 보안이 중요할 수밖에 없음

근데 오픈소스 모델은 우리 회사 서버에서 직접 돌릴 수 있음 → 데이터가 밖으로 안 나감 이라

성능은 gemini/gpt 같은 최상위 모델보다 떨어질 수 있지만, 보안이 중요하면 선택지가 되는 거임(실제로 은행, 공공기관 등 폐쇄망 쓰는 곳에서 ai 쓰려고 많이 활용함)

"오픈소스 모델 검토하자" = "외부 서비스 말고 우리가 직접 AI 돌리자"

Q. 어려운데요

A. 에이 아직 이정도로?.....는 에바고 사실 어렵긴 함.

그래서 심화편이라고 햇잖아..... 내용조금만 남앗으니 봐줘....

11. 컨텍스트 윈도우

AI가 한 번에 기억할 수 있는 대화/문서의 양. 

AI의 단기기억 용량이라고 보면 됨

컨텍스트 윈도우가 12만 토큰인 모델이면

대충 A4 200~300페이지 분량을 한 번에 읽을 수 있다는 뜻 ㅇㅇ

그럼 이게 어떤 때 볼 수 있는냐 하면

• 긴 대화를 하다 보면 AI가 처음에 말한 걸 까먹음( 컨텍스트 윈도우 초과)

• 긴 문서 넣었는데 뒷부분을 무시함 (컨텍스트 윈도우 초과)

이럴때 ㅇㅇ

대화 길어진다 싶으면 애가 계속 까먹는 이유임

그래서 대화가 길어졌다/이새끼가 대화 내용 기억을 못한다 싶으면 새 대화 시작하는 게 답임

12. 온도(Temperature)

AI 답변의 창의성(=랜덤성)을 조절하는 설정값

보통 영어발음에따라 다들 부르는게 다른데(RAG도 누구는 라그 누구는 래그 이러고 불러댐)여기선 걍 온도라 할게

온도 낮음 (0에 가까움) = 매번 비슷한 답, 안정적, 사실 기반 작업에 적합

온도 높음 (1에 가까움) = 매번 다른 답, 창의적, 브레인스토밍에 적합

같은 질문을 했는데 매번 다른 답이 나온다? → 온도가 높게 설정되어 있는 거

보고서 같은 거 쓸 때는 온도가 낮은 게 좋고, 아이디어 뽑을 때는 높은 게 좋음

근데 그렇다고 극단적으로 하면 둘 다 안 좋은건 알겠지...?

일반 채팅창에서는 보통 직접 못 건드리고, API나 플레이그라운드에서 조절 가능함. 당장 설정할 일은 없지만 개념은 알아두면 좋음

13. 시스템 프롬프트

AI가 대화를 시작하기 전에 미리 받는 기본 지침

3편에서 "맞춤 지침에 넣어라"고 한 거 있잖아? 그게 시스템 프롬프트임

"너는 마케팅 전문가야. 한국어로 답해. 모르면 모른다고 해."

이런 걸 미리 깔아두는 거

일반 프롬프트 = 대화할 때마다 치는 것

시스템 프롬프트 = 대화 시작 전에 미리 깔아놓는 기본 규칙

GPT의 맞춤형 지침, Claude의 프로젝트 지침이 다 이거임

14. 퓨샷 / 제로샷

AI한테 예시를 주느냐 안 주느냐의 차이

Zero-shot: 예시 없이 바로 시킴. "이메일 요약해줘"

Few-shot: 예시를 몇 개 보여주고 시킴. "이런 식으로 요약해줘" + 예시 2~3개

1편에 간단히 요약했는데 프롬프트 엔지니어링의 기초로 보면 됨

실무에서 응용하면:

• "이 형식으로 정리해줘" + 예시 1개 = one-shot

• "이런 스타일로 써줘" + 예시 3개 = few-shot

예시가 구체적일수록 AI가 니가 원하는 결과에 가까운 걸 뱉어냄

✅️추가 정보 

요즘 AI에이전트 부분이 급속도록 뜨고 있는데 

나는 완전 요즘 ai 트랜드 다 따라가고 싶다! 면

-외부 도구(캘린더, 메일, 사내 시스템 등)를 직접 쓸 수 있게 연결하는 규격인  MCP,

- 에이전트끼리 서로 대화하면서 협업하는 규격인  A2A 

이렇게 두 개 알아두면 좋음

둘 다 2024~2025년에 나온 따끈따끈한 개념이고 2026부터 본격적으로 논의 및 활용되는 상황인데

이거 활용해서 오픈클로/클로드 코워크 등 "사무직 혁신" 이라 그러는 툴들이 만들어지고 있거든

이게 자리 잡으면 "AI한테 시키면 알아서 이메일 보내고 일정 잡고 보고서까지 만드는" 세상이 진짜 옴. 관심 있으면 검색해봐 ㅇㅇ

Q. 그...너무 어려운데 이걸 내가 다 알아야 ai랑 일하는건가여

A. 아님 ㅇㅇ

이번 내용은 앞에서 말했듯이 심화 내용에 가까움ㅇㅇ

솔직히 몰라도 써먹는데에는 큰 문제 없음

왜냐 그런건 개발자가 알아서 할 거니까요!

하지만 개발자와 자주 소통해야 하는 덬이나 개발자를 꿈꾸는 덬을 위해서 이 편을 쓴 거임 ㅇㅇ

때문에 다 이해가 안돼... 하지말고 오 글쿤 ㅇㅇ 하고 머리 한구석에 넣어놨다가 나 이거 알아 ! 할때 써먹길 바람

그럼 다들 연휴 잘 보내구~~

(혹시 평소 궁금했거나 좀 설명해주길 바랬던 AI관련 내용이 있다면 질문 바람 나도 글 더 써주고 싶은데 뭘 할지 슬슬 주제가 떨어져서 허허허)