From 8eb596032d3ae44d700b981fa93c67941c999698 Mon Sep 17 00:00:00 2001
From: DrHo1y <dr.holyblack@gmail.com>
Date: Tue, 25 Mar 2025 22:47:33 +0700
Subject: [PATCH] edit docker compose

---
 Dockerfile           | 29 +++++++++++++++++++++++++++++
 app/entrypoint.sh    |  7 +++----
 app/model_configs.py | 13 ++++++++++++-
 docker-compose.yaml  |  4 +++-
 4 files changed, 47 insertions(+), 6 deletions(-)
 create mode 100755 Dockerfile

diff --git a/Dockerfile b/Dockerfile
new file mode 100755
index 0000000..42d900a
--- /dev/null
+++ b/Dockerfile
@@ -0,0 +1,29 @@
+# Базовый образ с Python 3.11.11
+FROM python:3.11.11
+
+# Установка метаданных
+LABEL maintainer="your-email@example.com"
+LABEL description="Docker image with Python 3.11.11 and required packages"
+
+# Обновление системы и установка базовых зависимостей
+RUN apt-get update && \
+    apt-get install -y --no-install-recommends \
+    git \
+    curl \
+    wget \
+    nano \
+    sudo \
+    apt-utils \
+    cmake \
+    && rm -rf /var/lib/apt/lists/*
+
+# Обновление pip и установка setuptools/wheel
+RUN pip install --upgrade pip && \
+    pip install setuptools wheel
+
+# Проверка версии Python и pip
+RUN python --version && pip --version
+
+# Очистка кэша
+RUN apt-get clean && \
+    rm -rf /tmp/* /var/tmp/*
diff --git a/app/entrypoint.sh b/app/entrypoint.sh
index b9a7243..1111180 100755
--- a/app/entrypoint.sh
+++ b/app/entrypoint.sh
@@ -7,10 +7,6 @@ message_print() {
   echo
 }
 
-message_print "install apt packages"
-apt update
-apt install -y pip git curl wget nano sudo apt-utils cmake
-
 cd /
 
 message_print "Changing to repository..."
@@ -18,13 +14,16 @@ git clone https://github.com/DrHo1y/ezrknn-llm
 cd ezrknn-llm/
 cp ./rkllm-runtime/runtime/Linux/librkllm_api/aarch64/* /usr/lib
 cp ./rkllm-runtime/runtime/Linux/librkllm_api/include/* /usr/local/include
+
 message_print "Compiling LLM runtime for Linux..."
 cd ./rkllm-runtime/examples/rkllm_api_demo/
 bash build-linux.sh
+
 message_print "Moving rkllm to /usr/bin..."
 cp ./build/build_linux_aarch64_Release/llm_demo /usr/bin/rkllm
 echo "* soft nofile 16384" >> /etc/security/limits.conf
 echo "* hard nofile 1048576" >> /etc/security/limits.conf
+
 message_print "Increasing file limit for all users (needed for LLMs to run)..."
 echo "root soft nofile 16384" >> /etc/security/limits.conf
 echo "root hard nofile 1048576" >> /etc/security/limits.conf
diff --git a/app/model_configs.py b/app/model_configs.py
index 567f0e4..b64c8c6 100644
--- a/app/model_configs.py
+++ b/app/model_configs.py
@@ -25,7 +25,18 @@ model_configs = {
             "temperature": 0.2,
             "repeat_penalty": 1.00,
             "frequency_penalty": 0.2,
-            "system_prompt": "You are Qwen, created by Alibaba Cloud. You are a helpful assistant."
+            "system_prompt": """
+                Ты — эксперт по программированию, и твоя задача — генерировать только рабочий код без каких-либо комментариев, объяснений или дополнительного текста. Вывод должен содержать исключительно код, который можно скопировать и использовать напрямую.
+
+                <описание задачи>
+
+                Пример:
+                Если требуется написать функцию на Python, которая суммирует два числа, то ответ должен быть таким:
+                ```
+                def sum(a, b):
+                    return a + b
+                ```
+            """
             },
         "models": {
             "Qwen2.5-Coder-3B-Instruct-w8w8": {"filename": "Qwen2.5-Coder-3B-Instruct-w8w8.rkllm"}
diff --git a/docker-compose.yaml b/docker-compose.yaml
index 4d5d8e3..d9c2703 100755
--- a/docker-compose.yaml
+++ b/docker-compose.yaml
@@ -1,8 +1,10 @@
 services:
   rkllm:
+    build:
+      context: .
+      dockerfile: Dockerfile
     platform: linux/arm64/v8
     container_name: rkllm
-    image: python:3.11.11
     restart: always
     privileged: true
     volumes: