#!/usr/bin/env python3 """ 🚀 GPT Local - Espacio Hugging Face FastAPI Application para el espacio DRDELATV/gpt-local """ from fastapi import FastAPI, HTTPException from fastapi.responses import HTMLResponse from fastapi.middleware.cors import CORSMiddleware from pydantic import BaseModel import os import json from typing import List, Dict, Any, Optional import time import logging # Configurar logging logging.basicConfig(level=logging.INFO) logger = logging.getLogger(__name__) app = FastAPI( title="GPT Local - DRDELATV", description="Sistema GPT Local con soporte para modelos sin censura y entrenamiento personalizado", version="1.0.0", docs_url="/docs", redoc_url="/redoc" ) # Configurar CORS app.add_middleware( CORSMiddleware, allow_origins=["*"], allow_credentials=True, allow_methods=["*"], allow_headers=["*"], ) # Modelos de datos class ChatMessage(BaseModel): role: str content: str class ChatRequest(BaseModel): messages: List[ChatMessage] model: Optional[str] = "mistralai/Mistral-7B-v0.1" max_tokens: Optional[int] = 512 temperature: Optional[float] = 0.7 class ChatResponse(BaseModel): response: str model_used: str tokens_generated: int processing_time: float # Base de datos de modelos disponibles AVAILABLE_MODELS = { "mistralai/Mistral-7B-v0.1": { "name": "Mistral 7B Base", "description": "Modelo base para uso general", "type": "general", "censored": True }, "NousResearch/Nous-Hermes-2-Mistral-7B-DPO": { "name": "Nous Hermes 2 (Sin Censura)", "description": "Modelo optimizado sin restricciones de contenido", "type": "uncensored", "censored": False }, "ehartford/dolphin-2.6-mistral-7b": { "name": "Dolphin 2.6 (Sin Restricciones)", "description": "Modelo sin filtros para conversación libre", "type": "uncensored", "censored": False }, "teknium/OpenHermes-2.5-Mistral-7B": { "name": "OpenHermes 2.5", "description": "Modelo para conversación libre y creativa", "type": "creative", "censored": False } } @app.get("/", response_class=HTMLResponse) async def home(): """Página principal del espacio GPT Local""" html_content = """ 🚀 GPT Local - DRDELATV

🚀 GPT Local - DRDELATV

🤖 Modelos Sin Censura

Acceso a modelos como Dolphin, Nous-Hermes y OpenHermes sin restricciones de contenido

🔧 Entrenamiento Personalizado

Sistema QLoRA para fine-tuning con tus propios datasets

📊 Datasets Personalizados

Creación de datasets conversacionales, creativos y sin censura

🌐 API REST Completa

FastAPI con documentación automática y endpoints optimizados

🔌 API Endpoints

GET / - Página principal
GET /health - Estado del sistema
GET /models - Lista de modelos disponibles
POST /chat - Chat con el modelo
GET /status - Estadísticas del sistema
📚 Documentación API 📖 ReDoc ❤️ Estado 🤖 Modelos

🏗️ Construido con FastAPI + Transformers + QLoRA

🔗 Repositorio: github.com/DRDELATV/gpt-local

""" return HTMLResponse(content=html_content) @app.get("/health") async def health_check(): """Verificar estado del sistema""" return { "status": "healthy", "service": "GPT Local - DRDELATV", "version": "1.0.0", "timestamp": time.time(), "models_available": len(AVAILABLE_MODELS), "space_url": "https://huggingface.co/spaces/DRDELATV/gpt-local" } @app.get("/models") async def get_models(): """Obtener lista de modelos disponibles""" return { "models": AVAILABLE_MODELS, "total_models": len(AVAILABLE_MODELS), "uncensored_models": len([m for m in AVAILABLE_MODELS.values() if not m["censored"]]), "default_model": "mistralai/Mistral-7B-v0.1" } @app.post("/chat", response_model=ChatResponse) async def chat_with_model(request: ChatRequest): """Chat con el modelo seleccionado""" start_time = time.time() # Validar modelo if request.model not in AVAILABLE_MODELS: raise HTTPException( status_code=400, detail=f"Modelo no disponible. Use uno de: {list(AVAILABLE_MODELS.keys())}" ) # Simular procesamiento (en un deployment real, aquí cargarías el modelo) logger.info(f"Procesando chat con modelo: {request.model}") # Construir prompt conversation = "" for msg in request.messages: conversation += f"{msg.role}: {msg.content}\n" # Respuesta simulada (en producción usarías el modelo real) model_info = AVAILABLE_MODELS[request.model] response_text = f"""¡Hola! Soy un asistente basado en {model_info['name']}. 📋 Tu mensaje: {request.messages[-1].content if request.messages else 'Sin mensaje'} 🤖 Características del modelo: - Nombre: {model_info['name']} - Tipo: {model_info['type']} - Sin censura: {'✅' if not model_info['censored'] else '❌'} 🔧 Configuración: - Temperatura: {request.temperature} - Max tokens: {request.max_tokens} Este es el espacio DRDELATV/gpt-local funcionando correctamente. En un deployment completo, aquí se cargaría el modelo real usando transformers y se generaría una respuesta auténtica. Para usar el sistema completo: 1. Clona el repositorio completo 2. Instala las dependencias 3. Ejecuta el entrenamiento personalizado 4. Usa los modelos sin censura disponibles """ processing_time = time.time() - start_time return ChatResponse( response=response_text, model_used=request.model, tokens_generated=len(response_text.split()), processing_time=processing_time ) @app.get("/status") async def get_status(): """Estadísticas del sistema""" return { "service": "GPT Local API", "author": "DRDELATV", "space": "https://huggingface.co/spaces/DRDELATV/gpt-local", "github": "https://github.com/DRDELATV/gpt-local", "features": [ "Modelos sin censura", "Entrenamiento QLoRA", "Datasets personalizados", "API REST completa", "Interfaz web", "Docker support" ], "models": { "total": len(AVAILABLE_MODELS), "uncensored": len([m for m in AVAILABLE_MODELS.values() if not m["censored"]]), "available": list(AVAILABLE_MODELS.keys()) }, "deployment": { "platform": "Hugging Face Spaces", "runtime": "Docker", "framework": "FastAPI", "python_version": "3.9" } } if __name__ == "__main__": import uvicorn uvicorn.run(app, host="0.0.0.0", port=7860)