생성형 AI를 사용하는 세 가지 방식

이 글은 「생성형 AI로 시작하는 데이터 분석」 9회 연재 중 4회입니다. 전체 목차 보기

안녕하세요, 헬로데이터사이언스 나성호입니다.

지난 3회차에서는 생성형 AI가 가끔 자신 있게 거짓말을 한다는 것(환각), 그리고 생성형 AI에게 너무 의지하면 내 머리가 게을러진다는 것(인지부채)을 살펴봤습니다. 그렇다고 해서 우리가 생성형 AI를 사용하지 않을 이유는 없습니다. 중요한 것은 어떻게 쓰느냐이죠. 오늘은 생성형 AI를 실제로 업무에 투입하는 세 가지 방식, 대표적인 서비스들의 특징, 그리고 우리나라 반도체 회사의 활용 사례를 차례대로 살펴보겠습니다.

세 가지 활용 방식 — 물어보기, 거들기, 맡기기

회사에서 누군가에게 일을 맡기는 방식을 떠올려 보면, 크게 세 가지를 들 수 있습니다. 당장 필요한 것을 하나하나 물어보고 답을 받는 방식, 내 옆자리에 앉아 거들어주는 방식, 그리고 목표만 던져주고 스스로 알아서 처리하도록 맡기는 방식. 생성형 AI도 정확히 이 세 가지로 나뉩니다.

대화형 AI (물어보는 AI) 사용자가 질문이나 요청을 입력하면 생성형 AI가 답변, 요약, 초안, 코드 등을 생성하는 방식입니다. ChatGPT, Gemini, Claude 같은 챗봇형 서비스가 대표적이죠. 마치 옆 부서 동료에게 “이거 어떻게 하는 거였지?”라고 물어보는 것과 비슷합니다.

코파일럿 (옆에서 거드는 AI) 사용자가 문서 작성, 코딩 등을 수행하는 과정에서 생성형 AI가 보조자처럼 제안과 수정을 제공합니다. Microsoft 365 Copilot, Google Workspace의 Gemini, Notion AI(문서 작성 코파일럿), VS Code의 GitHub Copilot, Google Colab의 AI 코딩 지원 기능 등이 여기 속합니다. 대화형 AI가 별도의 창에서 묻고 답하는 방식이라면, 코파일럿은 지금 내가 쓰고 있는 화면 안에서 바로 다음 작업을 제안해준다는 차이가 있습니다.

AI 에이전트 (통째로 맡기는 AI) 사용자가 지정한 목표를 바탕으로 작업을 계획하고, 필요한 도구를 스스로 호출하면서 여러 단계를 수행하는 AI 시스템입니다. 전체 작업을 작은 단계로 나누고 중간 결과를 확인하며 다음 행동을 스스로 결정합니다. 예를 들어 작업 경로에서 데이터 파일을 찾아서 데이터프레임으로 만들고, 분석 코드를 작성하고, 직접 실행한 결과를 검토하여 보고서 초안까지 만들어내는 식입니다. 다만 스스로 판단해서 행동하는 만큼, 안전하게 쓰려면 몇 가지 주의할 점이 있는데 이 내용은 뒤에서 따로 다루겠습니다.

3대 대화형 AI, 뭐가 다를까

가장 많이 쓰는 대화형 AI 세 가지를 제가 강의에서 쓰는 평가 기준으로 정리해 봤습니다.

구분	ChatGPT	Gemini	Claude
강점	기획·코딩·데이터분석·문서작성 등 균형이 좋음	최신 정보 조사, Google 생태계 연동에 강함	긴 글 편집, 복잡한 지시 준수, 코딩 보조
약점	검색·출처 검증 없이 답하면 틀릴 수 있음	순수 대화형 글쓰기는 다소 덜 자연스러움	실시간 검색은 약할 수 있음, 응답이 다소 느림
한 줄 총평	처음 하나만 써야 한다면 가장 무난한 선택	Google 문서·자료를 많이 쓰는 조직에 추천	글과 코드를 다듬을 때 상당히 유용한 선택

위에서 언급한 세 가지 대화형 AI 중에서 무엇을 선택해야 할까요? 사실 정답은 없습니다. 다만 우리가 어떤 일을 요청할 때 상대적으로 더 좋은 결과를 얻을 수 있는 구분 정도는 가능합니다. 예를 들어 회사에서 구글 워크스페이스를 쓰신다면 Gemini를 사용하는 것이 좋습니다. AI 티가 나지 않게 긴 글을 다듬어야 한다면 Claude가 좋은 선택이 될 수 있구요. 처음이라 뭘 써야 할지 모르겠다면 이것저것 다 잘하는 ChatGPT부터 시작하시는 걸 추천드립니다.

다만 이 구분도 예전만큼 뚜렷하지는 않습니다. 요즘은 ChatGPT나 Claude에서도 Gmail·Google Drive 연동이 가능해서, 구글 워크스페이스를 쓴다고 반드시 Gemini를 골라야 하는 것은 아니거든요.

그래도 제 경험상 차이가 나는 지점은 있습니다. 코드 작성은 아무래도 Claude가 좀 나은 것 같고, 그림을 그려야 할 때나 음성으로 대화할 때는 ChatGPT가 확실히 좋아 보입니다. 최근에는 실시간 음성 대화 기능으로 동시통역까지 되더라구요. 아무튼 대화형 AI의 성능이 갈수록 좋아지고 있습니다.

코파일럿, 좀 더 자세히

앞에서 말씀드린 것처럼, 코파일럿은 사용자가 작업 중인 도구 안에서 코드 작성, 문서 작성, 데이터 분석 및 보고서 초안 작성을 보조하는 활용 방식입니다. 현재 작성 중인 코드, 문서, 데이터, 업무 맥락을 참고하여 사용자가 다음 작업을 더 빠르게 수행할 수 있도록 돕습니다.

• 코딩 코파일럿: 코드 자동 완성, 주석 작성, 오류 수정, 함수 작성 등을 보조합니다.
• 문서 작성 코파일럿: 문서 초안 작성, 표 요약, 발표 자료 구성, 보고서 문장 생성 등을 보조합니다.

저는 데이터 사이언스 분야를 강의하기 때문에 아무래도 Python 코딩을 많이 하는 편입니다. 그래서 제가 알고 있는 코드는 바로 사용하지만, 중간에 기억이 나지 않거나 실수했을 때 코파일럿의 도움을 받는 것이 편하더라구요. 이번 연재의 실습 환경을 Google Colab으로 잡은 것도 그래서입니다. 설치 없이 브라우저에서 바로 코드를 실행할 수 있고, Colab에 들어 있는 AI 코딩 지원 기능으로 막히는 부분을 그때그때 해결할 수 있으니까요. 제가 따로 코딩하는 상황에서는 VS Code를 사용하고 있구요. VS Code에서 GitHub 계정에 연결하면 GitHub에서 제공하는 Copilot 기능을 사용할 수 있어 좋습니다.

여기서 한 가지 짚고 갈 점이 있습니다. 코딩 코파일럿과 대화형 AI의 가장 큰 차이는 생성형 AI에게 입력되는 문맥입니다. 지난 2회차에 설명했던 것처럼 생성형 AI는 이전 대화, 첨부된 파일, 시스템 프롬프트 등의 문맥을 참고하여 답변을 작성합니다. 그런데 대화형 AI를 쓸 때는 사용자가 작성 중인 코드를 처음부터 끝까지 붙여넣어야 합니다. 반면 코딩 코파일럿은 코드를 작성하다가 중간에 필요한 것만 물어봐도 생성형 AI가 사용자의 코드 자체를 문맥으로 받기 때문에, 아무래도 좀더 정확한 답변을 받을 가능성이 높아집니다.

하지만 코딩 코파일럿을 사용하다 보면 사용자가 코파일럿에 끌려다닐 수 있습니다. 예를 들어 ‘현재까지 작성된 코드를 보고 앞으로 뭘 해야 하지?’와 같은 프롬프트를 입력하면 코파일럿이 멈추지 않고 계속 코드를 생성합니다. 물론 중간에 끊을 수 없는 것은 아닙니다. 문제는 스스로 먼저 생각하고 생성형 AI에게 필요한 것만 요청하는 순서가 뒤집혔을 때, 이와 같은 상황에 반복해서 직면하게 된다는 점입니다. 제가 강의할 때 많이 강조하는 부분이죠.

AI 에이전트, 안전하게 쓰려면

AI 에이전트는 자료 검색, 코드 실행, 파일 처리, 데이터베이스, 업무 시스템 등 외부 도구와 연결될 때 실질적인 자동화 효과를 냅니다. 다만 다른 두 가지 방식보다 자율성이 높아서 사람의 확인 없이 여러 단계를 스스로 실행하는 만큼, 현업에서는 사람이 목표와 범위를 명확히 설정하고, 중간 결과와 최종 결과를 검토하는 절차를 반드시 거쳐야 안전하게 활용할 수 있습니다.

LLM은 얼마나 빨리 발전하고 있을까

참고로 LLM(대규모 언어 모델)이 어떻게 발전해왔는지를 간단한 표로 정리해 봤습니다.

시기	대표 모델	상세 내용
2017	Transformer	RNN 없이 Attention만으로 문맥을 처리하는 신경망 구조 도입
2020	GPT-3	175B 파라미터 모델로 Few-Shot 능력이 본격 주목받음
2022	InstructGPT, ChatGPT	사용자 의도에 맞는 답변을 만들기 시작, ChatGPT가 대중화를 이끔
2023	GPT-4, Llama 2, Claude 2, Gemini 1.0	고성능 모델 경쟁 본격화, 오픈 웨이트 생태계 확산
2024	GPT-4o, Gemini 1.5, Claude 3/3.5, o1	1M 토큰 문맥 창과 멀티모달 경쟁, 그리고 답변 전에 더 오래 계산하는 추론형 모델(o1) 등장
2025~	o3, DeepSeek-R1, GPT-5, Gemini 2.5/3, Claude 4/5	수학·코딩·복잡한 추론 성능을 놓고 추론형 모델 경쟁이 본격화

단순히 “크기 경쟁”에서 “장문맥·멀티모달·추론 능력 경쟁”으로 무게중심이 옮겨가고 있다는 게 핵심입니다.

실제 활용 프로세스는 이렇습니다

이번 블로그 연재에서 제가 제시하는 생성형 AI 활용 과정의 전체 흐름은 이렇습니다.

업무 목적 및 과제 정의 → 사용 가능한 데이터 확인 → (프롬프트 작성 → 초안 생성 → 코드 실행 → 결과 검토, 이 네 단계를 반복) → 결과 정리 및 보고 → 현업 적용

위 프로세스 중에서 가운데 네 단계, 즉 사용자가 프롬프트를 다듬어가며 생성형 AI에게 코드를 작성하게 하고, 그렇게 얻은 코드를 직접 실행해서 나온 결과를 스스로 검토하는 과정을 반복하는 것이 생성형 AI 활용의 핵심 영역이라 할 수 있습니다.

위 과정은 앞에서 언급한 생성형 AI를 활용하는 세 가지 방식 중에서 대화형 AI를 중심으로 사용하는 방식입니다. 이 글을 읽고 계신 분들마다 생성형 AI를 쓰는 방식과 목적이 다르겠지만, Python 코드를 한 줄도 써본 적 없는 분이 생성형 AI로 데이터 분석을 경험해보고 싶다면 조금 번거롭더라도 스스로 코드를 요청해서 실행하고 결과를 직접 검토하는 과정을 실습해보실 것을 추천합니다. 이와 같은 방식에 익숙해지면 코파일럿을 본격적으로 쓰는 VS Code 같은 환경으로 나아갈 수 있고, AI 에이전트도 잘 활용하시게 될 것이니까요.

실전에서 꼭 지켜야 할 것들

생성형 AI를 업무에 쓰실 때 꼭 유의하셔야 할 부분이 있습니다.

• 정보보안을 최우선으로 고려하세요. 사내 기밀, 미공개 데이터, 고객 정보 등은 외부 생성형 AI에 입력하지 않습니다. 회사가 승인한 도구와 환경에서만 업무 데이터를 다루세요.
• 생성된 코드가 사용하는 외부 라이브러리의 라이선스를 확인하세요. 상용 배포나 사내 재사용이 제한되는 라이선스가 섞여 들어올 수 있습니다.
• 드물게는 학습 데이터에 있던 기존 코드가 그대로 재현되기도 합니다. 받은 코드를 핵심 로직에 그대로 쓸 때는 출처가 분명한지 한 번 더 확인하세요.
• 학습 데이터의 편향이 결과에 반영될 수 있습니다. 민감한 의사결정에는 생성형 AI의 답변을 단독으로 사용하지 마세요.
• 같은 프롬프트로 실행해도 매번 결과가 달라질 수 있습니다. 사용한 프롬프트와 판단 근거를 문서로 남기세요.

반도체 현장에서는 실제로 이렇게 씁니다

이제 반도체 기업에서 생성형 AI를 실제로 어떻게 쓰고 있는지 보여드리겠습니다. 생성형 AI는 판별형 AI의 역할을 보조하고, 에이전트를 통해 반복 업무를 자동화하는 방식으로 품질·제조 현장에 들어오고 있습니다. 자연어 기반으로 Python·SQL 코드를 작성하고, 검사 및 측정 데이터에서 이상 원인 가설을 수립하며, 사내 규격·매뉴얼·장비 로그를 검색·정리하는 업무 특화 에이전트를 만드는 식입니다.

2025~2026년에 공개된 실제 기업 사례 두 가지를 소개합니다.

• SK하이닉스는 반도체 업무 전반에 최적화된 생성형 AI 플랫폼 ‘GaiA’를 개발하고, 장비 보전 에이전트 등 다양한 에이전트를 통해 개발 및 양산 현장에서 활용하고 있습니다¹.
• 삼성전자는 2030년까지 ‘AI 자율 공장 전환’을 발표하며, 품질·생산·물류 AI 에이전트를 통해 데이터 기반 분석과 사전 검증을 강화함으로써 품질과 생산성 혁신을 추진하고 있습니다².

대기업들도 결국 “물어보고, 거들게 하고, 맡기는” 이 세 가지 방식을 상황에 맞게 조합해서 쓰고 있다는 걸 알 수 있습니다.

오늘 이야기 정리

오늘은 생성형 AI를 쓰는 세 가지 방식(대화형·코파일럿·에이전트)과 대표 서비스 비교, 그리고 실제 기업 사례까지 살펴봤습니다. 여기까지가 “생성형 AI란 무엇인가”에 대한 이야기였습니다.

다음 5회차부터는 본격적인 실전으로 들어갑니다. 좋은 프롬프트에는 대체 어떤 요소들이 들어가야 하는지, 아홉 가지로 정리해서 하나씩 알려드리겠습니다. 감사합니다.

1. SK hynix Newsroom (2025). AI로 일하는 시대, SK하이닉스 ‘Biz 특화 AI Agent’가 만든 변화 — 확인일: 2026-08-02 ↩

2. Samsung Newsroom Korea (2026). 삼성전자, 2030년까지 AI 자율공장 전환 추진 — 확인일: 2026-08-02 ↩