파기차차

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(메타의 라마(llama) 파인튜닝(전문가GPT) 하기 - 1.구글 colab 준비하기)에 이은 3번째 글로 허깅페이스에 오픈된 AI모델 중 하나인 라마2를 사용하는 방법을 알아보겠습니다. 여기서는 허깅페이스의 라마모델에 접근할 수 있는 엑세스 토큰을 발급받는 방법과 모델사용을 위해 동의하는 방법에 대해 살펴보겠습니다.    O 허깅페이스에서 엑세스 토큰 발급 방법 0.허깅페이스에 계정이 없는 분들은 계정생성 후 미리 로그인 한 후 아래를 진행해 주시기 바랍니다.   1. 구글에서 아래와 같이 검색 후 'Hugging Face'를 클릭합니다.  2.아래 사이트에 접속합니다.https://huggingface.co/settings/tokens Hugging..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(메타의 라마(llama) 파인튜닝(전문가GPT) 하기 - 0.소개)에 이은 2번째 글로 모델 튜닝을 위해 구글 colab을 사용하는 방법에 대해 살펴보겠습니다.     O 주요 내용  1.구글계정으로 로그인한 상태에서 구글에서 아래와 같이 검색 후 구글 colab을 클릭합니다.  2. 'Open Colab'을 클릭 합니다.   3. colab에 접속되었고, 아래와 같이 '새 노트'를 클릭합니다.    4. 런타임 > '런타임 유형 변경' 을 클릭 합니다.  5. 구글의 전용 장치인 'TPU v2'를 선택 후 '저장'을 클릭합니다.   6. 파일의 제목을 알맞게 변경합니다. (저는 'ai모델튜닝.ipynb'로 하였습니다.)  7. 파일 > 저장 으로 저장..

ㅁ 개요 O 프로젝트 소개  - 이번 프로젝트는 파이썬+허깅페이스+구글colab+메타 라마2(또는 라마3)를 이용하여 파인튜닝하는 방법을 알아보겠습니다.여기서 얘기하는 파인튜닝이란 챗지피티의 'GPT 탐색'에서 볼 수 있는 전문가GPT와 비슷한 것으로 예를 들어 중학교 1학년 교재를 모델에 학습시킨 후 중학교 1학년 수학전문가 AI챗봇 만들고, 이 챗봇에 중1 수학문제를 물어보면 챗봇이 풀어서 답변해 주는 것이라고 생각하면 되겠습니다.    O 사전 준비 사항우리는 구글 colab을 사용하여 작업할 것이기 때문에 구글계정이 필요합니다. 없으신 분들은 구글계정을 만들어 두시기 바랍니다. 구글 colab은 집의 PC 및 노트북에서 구동할 수 없는 고사양이 필요한 모델 튜닝 등의 작업을 손쉽게 할 수 있으므로..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 5. AI챗봇 : 윈도우 버전 - 5.3 Groq API연동)에 이은 9번째 글로 AI챗봇의 윈도우버전 중 Groq API 비동기식 연동편에 대해 살펴보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다. 1. 5-4.py를 실행하면 아래와 같이 실행됩니다. 아래 실행화면을 자세히 살펴보면 빨간선을 기준으로위에는 (1)사용자가 질의하면 (2)AI챗봇이 응답하고, 다시 (3)사용자가 질의하면 (4)AI챗봇이 응답하는 구조로 되어 있습니다. 이것이 동기식 즉, 순서대로 하는 것입니다.  그런데 빨간선을 기준으로아래에는 (1)사용자가 질의 후 (3) 재빨리 사용자가  다시 ..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 5. AI챗봇 : 윈도우 버전 - 5.2 메시지 송수신 기능 추가)에 이은 8번째 글로 AI챗봇의 윈도우버전 중 Groq API 연동편에 대해 살펴보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 5-3.py를 실행하면 아래와 같이 실행되며, (1)(3)번과 같이 질문하면 (2)(4)번과 같이 잘 대답하는 것을 볼 수 있습니다.     ㅁ 세부 내용 O 완성된 소스 소스파일 : 5-3.py import sysfrom PyQt5.QtWidgets import QApplication, QMainWindow, QTextEdit, QLineEdit, QPushBu..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 5. AI챗봇 : 윈도우 버전 - 5.1 윈도우창 띄우기)에 이은 7번째 글로 AI챗봇의 윈도우버전 중 메시지 송수신 기능 추가편에 대해 살펴보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 5-2.py를 실행하면 아래와 같이 실행되며, 창 아래에 라인에디트(input) 박스에 질의하면 창 상단의 텍스트에디트(chatDisplay) 박스에 내가 질의한 내용을 볼 수 있습니다.(이후 AI챗봇의 응답부분은 다음글에 게시합니다.)      ㅁ 세부 내용 O 완성된 소스 소스파일 : 5-2.py import sysfrom PyQt5.QtWidgets import ..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 4. AI챗봇 : 이전 질문 기억하고 답변하기)에 이은 6번째 글로 이전 글들의 AI챗봇들은 모두 텍스트 버전입니다. 따라서 모양이 별로 이쁘지 않은데(?) 여기서는 윈도우 버전으로 좀 더 인터페이스를 보기좋게 만들어 보는 방법을 살펴보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 5-1.py를 실행하면 아래와 같이 실행되며, 현재는 어떤 기능도 코딩하지 않고, 창을 띄우는 부분만 있으므로 아래와 같이 아무 기능없이 창이 뜬것을 볼 수 있습니다. ㅁ 세부 내용 O 완성된 소스 소스파일 : 5-1.py import sysfrom PyQt5.QtWidgets..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 3. AI챗봇 : 계속 질문하기)에 이은 5번째 글로 이전 글들의 프로그램들은 이전 질문에 대한 기억이 없습니다. 따라서 이전 질문들과 연관지어 질문할 수 없어 다시 처음부터 질문해야 하는 불편함이 존재하는데, 여기서는 AI챗봇이 이전 질문들을 기억하고 대답할 수 있도록 하는 방법에 대해 알아보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 4.py 실행 시 첫번째 질문이 루트4에대한 답을 묻고 있으며, AI챗봇이 '2'로 대답하였습니다.그리고 추가 질문으로 왜 '2'가 답인지 물어 보았는데, 이전 질문은 기억하고 있으므로 엉뚱한 답을 하는 것이 아니라, ..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 2.AI챗봇 : 한국어 버전 만들기)에 이은 4번째 글로 이전 프로그램을 실행하면 AI챗봇에게 질문/대답이 1회로 끝이나는데, 이를 계속해서 AI챗봇과 대화를 할 수 있도록 개선하는 방법을 알아 보겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 3.py 실행 시 이번에는 내가 직접 질의를 할 수 있도록 프로그램이 개선되었으며, 질문에 대한 대답을 AI챗봇이 잘 수행하고 있는 것을 볼 수 있습니다.   ㅁ 세부 내용 O 완성된 소스 소스파일 : 3.py from config import *from groq import Groqimport time# clien..

ㅁ 개요 O 프로젝트 소개   - 이번 글은 이전글(나만의 AI챗봇만들기(API버전) - 1.AI챗봇 : 기본)에 이은 3번째 글로 오픈소스 AI챗봇들의 기본언어인 영어를 한글로 변경하는 방법을 알아보도록 하겠습니다.  O 완성된 프로그램 실행 화면   - 최종 완성된 프로그램의 결과화면은 아래와 같습니다.  1. 2.py 실행 시 아래와 같이 한국어로 대답하는 것을 볼 수 있습니다.(질문은 소스내에 "당신이 누구인지 그리고 무엇을 할 수 있는지 설명해 주세요."로 이미 지정되어 있습니다.)    ㅁ 세부 내용 O 완성된 소스 소스파일 : 2.py from config import *import osfrom groq import Groq# client = Groq(# api_key=os.envir..