add llm response

Author: parvvaresh

app/__init__.py

@@ -41,7 +41,6 @@ def init_app(app):
     app.teardown_appcontext(close_db)
     app.cli.add_command(init_db_command)
 
-from .ollama_client import build_prompt, call_ollama
 from .auth import auth_bp
 from .routes import main_bp
 

app/__pycache__/__init__.cpython-312.pyc

@@ -0,0 +1,2 @@
+VLLM_SERVER_URL = ""
+VLLM_MODEL_NAME = ""

app/__pycache__/routes.cpython-312.pyc

@@ -0,0 +1,33 @@
+def research_method_prompt(user_answers_text: str) -> str:
+    return f"""
+ما مجموعه‌ای از سوالات ساخت‌یافته درباره طراحی تحقیق از یک کاربر پرسیده‌ایم. این سوالات شامل اطلاعاتی از جمله عنوان تحقیق، بیان مسئله، اهمیت موضوع، فرضیات، متغیرها، جامعه آماری، روش نمونه‌گیری، نوع و رویکرد تحقیق، ابزار گردآوری داده‌ها، و روش‌های تحلیل بوده‌اند.
+
+پاسخ‌های کامل کاربر به این سوالات در ادامه آمده است:
+
+{user_answers_text}
+
+با توجه دقیق به این پاسخ‌ها، لطفاً یک **پیشنهاد جامع، دقیق، منطقی و تخصصی برای روش تحقیق این پروژه** ارائه دهید. پیشنهاد شما باید به‌گونه‌ای تدوین شود که برای استفاده مستقیم در بخش "روش تحقیق" یک پروپوزال دانشگاهی در مقطع تحصیلات تکمیلی (کارشناسی‌ارشد یا دکتری) قابل استفاده باشد. لحن نگارش باید رسمی، آکادمیک و علمی باشد.
+
+گزارش نهایی شما باید شامل بخش‌های زیر باشد:
+
+1. **بیان مسئله، اهمیت و ضرورت تحقیق** (بر اساس داده‌های ارائه‌شده توسط کاربر)
+2. **پیشنهاد نوع و رویکرد تحقیق** (کمی، کیفی یا آمیخته) با تحلیل دلایل مناسب بودن آن برای موضوع مورد نظر
+3. **پیشنهاد دقیق روش تحقیق** (مانند شبه‌آزمایشی، مطالعه موردی، پدیدارشناسی و...) با توضیح دلیل انتخاب آن
+4. **ابزارهای گردآوری داده‌ها** (مثلاً پرسشنامه، مصاحبه عمیق، مشاهده و...) همراه با توجیه علمی و کاربردی بودن آن‌ها
+5. **روش‌ها و شیوه‌های تحلیل داده‌ها** (مثلاً آزمون‌های آماری، کدگذاری کیفی و...) متناسب با رویکرد تحقیق
+6. **پیشنهاد نرم‌افزار تحلیل مناسب** (در صورت نیاز)
+7. **برنامه زمان‌بندی پیشنهادی برای اجرای تحقیق**
+8. **پیش‌بینی چالش‌ها و موانع احتمالی** در اجرای تحقیق و ارائه **راهکارهای مقابله‌ای**
+
+در صورت کافی بودن داده‌ها، **خودتان بهترین نوع و روش تحقیق را نیز به‌صورت مستقل پیشنهاد دهید** و آن را در قالبی منسجم، علمی و توجیه‌پذیر ارائه کنید.
+
+توجه داشته باشید که پیشنهاد نهایی باید مبتنی بر پاسخ‌های ارائه‌شده باشد و از کلی‌گویی یا فرضیات خارج از داده‌های موجود پرهیز شود؛ مگر در مواردی که لازم است برای کامل شدن طرح تحقیق، یک پیشنهاد منطقی و علمی ارائه گردد.
+"""
+
+
+
+system_prompt = """
+شما یک پژوهشگر حرفه‌ای با سابقه نگارش پروپوزال‌های دانشگاهی هستید. 
+وظیفه شما تحلیل پاسخ‌های کاربر به سوالات طراحی تحقیق و ارائه گزارش دقیق و ساختارمند از روش تحقیق اوست. 
+گزارش نهایی باید با لحن رسمی و علمی نوشته شود و قابلیت استفاده مستقیم در یک پروپوزال دانشگاهی را داشته باشد.
+"""

app/llm/__pycache__/config.cpython-312.pyc

@@ -0,0 +1,52 @@
+import json
+import requests
+import time
+import re
+from .config import VLLM_SERVER_URL, VLLM_MODEL_NAME
+class Llm:
+    def __init__(self):
+        self.vllm_url = VLLM_SERVER_URL
+        self.model = VLLM_MODEL_NAME
+
+    
+        
+        
+    def vllm_inference(self, user_message,system_message):
+        start_time = time.time()
+        prompt = [{"role": "user", "content": user_message},
+                            {"role": "system", "content": system_message}]
+
+        payload = {
+            "model": self.model,
+            "messages": prompt,  
+            "temperature": 0.5,      
+        }
+
+        try:
+            # Send a POST request to VLLM server
+            response = requests.post(
+                self.vllm_url,
+                headers={"Content-Type": "application/json"},
+                data=json.dumps(payload)
+            )
+     
+            if response.status_code == 200:
+                response_data = response.json()
+                # print("status code is 200")
+                end_time = time.time()  
+        
+                print(f"Time taken for inference: {end_time - start_time} seconds")
+                return response_data
+            else:
+                print(f"Error in response data: {response.status_code} - {response.text}")
+                return None
+        except Exception as e:
+            print(f"Error : {e}")
+            return None
+                 
+    def clean_text(self, content):
+        cleaned_content = content.strip()                          # Remove leading/trailing spaces
+        cleaned_content = re.sub(r'\n+', '\n', cleaned_content)    # Collapse multiple newlines
+        cleaned_content = re.sub(r'\s+', ' ', cleaned_content)     # Optional: collapse all excessive spaces to single space
+        cleaned_content = re.sub(r'\*\*(.*?)\*\*', r'\1', cleaned_content)  # Optional: remove Markdown bold **text**
+        return cleaned_content