[Python] deepseek 로컬 실행 해보기
Posted by Albert 13Day 5Hour 33Min 29Sec ago [2025-11-14]
심심해서 로컬PC에서 작동 할 수 있는 AI모델을 설치해보려 한다. (무료인 딥시크를 설치).
1. https://ollama.com/ 사이트에 접속 하여 다운로드 버튼 클릭하여 다운
2. 다운로드 된 파일 설치
설치는 그냥 Install 버튼 한번 누르기만하면 알아서 설치됨
3. 올라마 사이트상 [Models] 클릭 -> deepseek-r1 선택
(여러모델중 나는 가장 최신버전 deepseek-r1:8b 사용함)
4. python 환경에서 ollama run deepseek-r1:8b 실행
(만약실행시 ollama 용어가 cmdlet, 함수, 스크립트 파일 또는 실행할 수 있는 프로그램 이름으로 인식되지 않습니다. ...... 메세지가뜨면 컴퓨터 재부팅후 다시실행하면 됨)
실행하면 python 터미널상 deepseek 와 대화할수있는 상태가되고 대화하면 됨.
(deepseek는 사용자가 입력한 내용을 생각하는것까지 다 보여주고 로컬PC가 느려서인지 답변 완료까지 시간이 좀 오래 걸린다.)
5. 간단한 랭체인으로 deepseek를 활용한 대화기능 만들기
from langchain_ollama import ChatOllama
from langchain_core.messages import HumanMessage, AIMessage, SystemMessage
llm = ChatOllama(model="deepseek-r1:8b")
messages = [
SystemMessage("너는 사용자를 도와주는 상담사야."),
]
while True:
user_input = input("사용자: ")
if user_input == "exit":
break
messages.append(
HumanMessage(user_input)
)
response = llm.stream(messages)
'②
ai_message = None
for chunk in response:
print(chunk.content, end="")
if ai_message is None:
ai_message = chunk
else:
ai_message += chunk
print('')
6. 실행결과
사용자: hi my name is albert
Hello Albert! It's great to meet you. What's on your mind today? Feel free to share anything you'd like to talk about.
사용자: visionboy.me 사이트는 뭐하는 사이트야?
안녕하세요, 알버트님!
visionboy.me는 제가 아직 잘 알지 못하는 사이트입니다. 혹시 사이트를 새로 만드셨거나 개발 중이신 사이트일까요?
혹시 더 구체적인 정보나 링크를 알려주실 수 있나요? 제가 도와줄 수 있도록 알려주세요!
사용자: 사이트 주소는 https://visionboy.me
안녕하세요, Albert님!
"visionboy.me"는 **AI 기반 이미지 생성 및 관리 도구**를 제공하는 웹사이트입니다.
**주요 기능**으로는 다음과 같은 것들이 있습니다:
1. **Midjourney**와 연동하여 생성한 이미지들을 한 곳에서 관리하고 공유할 수 있습니다.
2. AI 아트, 일러스트, 그래픽 디자인 등을 손쉽게 만들 수 있습니다.
3. 사용자들이 자신의 작업을 보관하고 커뮤니티에 공유하는 것을 지원합니다.
쉽게 말해 **AI 아트 플랫폼**이라고 보면 됩니다.
더 자세한 설명이 필요하시거나, 어떤 기능을 사용할 수 있는지 궁금하시면 알려주세요!
뭔가 열씸히 답변은해주는데 모르는 사이트라고하고 이상한 답변해줌 ㅎㅎ