나만의 AI챗봇만들기(API버전) - 1.AI챗봇 : 기본

ㅁ 개요

 

O 프로젝트 소개

 

 

 - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 0.소개)에 이은 2번째 글로 가장 간단한 코드로 AI챗봇을 만들어 보고, 이를 통해 AI챗봇이 어떻게 동작하는지, 어떤 코드로 구성되는지 대략적으로 그 구조를 이해해 보도록 하겠습니다.

 

 

 

 

O 완성된 프로그램 실행 화면

 

 

 - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.

 

 

1. 1.py 실행 시 LLaMA AI챗봇이 본인이 누구인지 잘 설명하는 것을 볼 수 있습니다.

(아래 결과는 소스에서 'who are you?'로 질문하였습니다.)

 

 

 

 

---

 

ㅁ 세부 내용

 

O 완성된 소스

 

소스파일 : 1.py

 

from config import *


import os

from groq import Groq

# client = Groq(
#     api_key=os.environ.get("GROQ_API_KEY"),
# )

############### 그록(Groq) API로 응답 받기 ###################

client = Groq(
    api_key=GROQ_API_KEY,
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "who are you?",
        }
    ],
    model="llama3-8b-8192",
)

print(chat_completion.choices[0].message.content)

 

 

 

 

 

 

O 소스 실행 방법

 

 

 - 소스파일 다운로드 후 cmd 또는 파워쉘 등에서 아래와 같이 실행하시기 바랍니다.

 

 > python 1.py

 

---

 

 

O 주요 내용

 

아래 소스코드 중 주요 내용만 간략히 설명하겠습니다.

 

 

소스 파일 : 1.py

 

line 1 : API키 파일인 config.py를 임포트 합니다.

line 14~16 : 키를 사용할 수 있도록 환경설정 해줍니다.

line 18~26 : API 챗봇에게 가장 기본적인 내용으로 api 요청하는 코드 입니다.

line 20~23 : 사용자의 역할만 정의되어 있고, 여기서는 'who are you?'로 챗봇에게 물어 보고 있습니다.

line 25 : llm모델은 메타의 'llama3-8b-8192'를 사용하고 있습니다.

line 28 : ai챗봇에게 api요청으로 받은 응답을 print()로 출력하고 있습니다.

 

자세한 내용은 아래 그록 문서를 참고 하시기 바랍니다.

https://console.groq.com/docs/quickstart

 

 

 

 

 

 

 

 

 

***그록(Groq)에서 AI챗봇 API 키를 발급받는 방법은 순서대로 아래와 같습니다.

 

 

 

1.아래 사이트에 접속 후 로그인 합니다.(저는 구글계정으로 로그인 하였습니다.)

https://console.groq.com/login

GroqCloud

 

 

 

 

 

2.화면 오른쪽 상단에 이용 가능한 AI챗봇 목록이 있습니다.

총 10개의 AI챗봇을 사용해 볼 수 있습니다.

 

 

 

3.API Keys > 'Create API Key'를 클릭합니다.

 

 

 

 

4.API키의 이름을 입력 후 'Submit'를 클릭합니다.

 

 

 

 

 

5.API키가 생성된 것을 확인 후 'Copy' 버튼을 눌러 키를 복사하고, 메모장 등에 붙여넣어 잘 보관합니다.

 

 

 

 

 

6.아래와 같이 키가 잘 생성된 것을 볼 수 있습니다.

 

 

 

 

7.소스에서는 아래와 같이 이용할 수 있습니다.

여러 방법이 존재하나, 여기서는 아래와 같이 config.py 파일 내에 GROQ_API_KEY 변수에 API키를 할당하였습니다.

 

 

 

 

8.실제 실행하는 파일(예: 1.py)에서는 아래와 같이 임포트 해주면 됩니다.

 

 

 

 

9. 참고로 그록은 다양한 AI챗봇들의 API를 지원하고, 그 양(횟수)도 꽤 많이 무료로 제공하고 있으므로 여러가지 테스트하는데 도움이 될 것으로 보입니다.

다만, 기존 선두 업체들(OPENAI의 ChatGPT 등)의 후발 업체로 나왔기 때문에 현재는 무료로 많은 횟수를 이용할 수 있지만, 향후 유료로 전환되거나, 횟수 등이 줄어들 가능성이 매우 크므로 빠른 시일내에 사용해 보실 것을 추천 드립니다.

 

 

 

 

 

---

 

ㅁ 정리

 

O 우리가 배운 내용

 

 - 오늘은 가장 간단한 코드로 AI챗봇을 만들어 보고, 이를 통해 AI챗봇이 어떻게 동작하는지, 어떤 코드로 구성되는지를 대략적으로 이해해 보았습니다.

 

 

 

오늘은 여기까지이며, 위의 내용이 유익하셨다면, 광고 한번씩만 클릭 부탁드립니다.

 

 

감사합니다.