Nextcloud в НИЦ Эхо Сирин

Настройка TLS (turns:) в Eturnal для Nextcloud Talk

/opt/hugo/blog/content/opus/eturnal_nextcloud_talk.md (Линк) — Sun, 22 Dec 2024 00:00:00 +0000

*Мануал подразумевает, что у вас уже есть сервер с apt-based системой с установленным и настроенным Nextcloud

Поскольку у меня сервер на Debian 13, соответственно мануал будет для систем с apt. Чтобы установить пакет eturnal, необходимо прописать следующие команды:

sudo apt install extrepo
sudo extrepo enable eturnal
sudo apt update
sudo apt install eturnal

(Взято с Github-репозитория eturnal)

После установки необходимо редактировать файл конфигурации
(Вместо micro подставьте ваш любимый терминальный текстовый редактор)

sudo micro /etc/eturnal.yml

Сам файл конфигурации:

# eturnal STUN/TURN server configuration file.
#
# This file is written in YAML. The YAML format is indentation-sensitive, please
# MAKE SURE YOU INDENT CORRECTLY.
#
# See: https://eturnal.net/doc/#Global_Configuration

eturnal:

  ## Shared secret for deriving temporary TURN credentials (default: $RANDOM):
  secret: "ваш-секрет"

  ## The server's public IPv4 address (default: autodetected):
  relay_ipv4_addr: "ваш_белый_(или_статичный)_IP"
  ## The server's public IPv6 address (optional):
  #relay_ipv6_addr: "2001:db8::4"

  listen:
    -
      ip: "::"
      port: 3478
      # port: 80
      transport: udp
    -
      ip: "::"
      port: 3478
      # port: 80
      transport: tcp
    -
     ip: "::"
     port: 5349
     # port: 443
     transport: tls

  ## TLS certificate/key files (must be readable by 'eturnal' user!):
  tls_crt_file: ваш_путь_до_fullchain.pem
  tls_key_file: ваш_путь_до_privkey.pem

  ## UDP relay port range (usually, several ports per A/V call are required):
  relay_min_port: 49152     # This is the default.
  relay_max_port: 65535     # This is the default.

  ## Reject TURN relaying to the following addresses/networks:
  blacklist_peers:
    - recommended           # Expands to various addresses/networks recommended
                            # to be blocked. This is the default.

  ## If 'true', close established calls on expiry of temporary TURN credentials:
  strict_expiry: false      # This is the default.

  ## Logging configuration:
  log_level: info           # critical | error | warning | notice | info | debug
  log_rotate_size: 10485760 # 10 MiB (default: unlimited, i.e., no rotation).
  log_rotate_count: 10      # Keep 10 rotated log files.
  #log_dir: stdout          # Enable for logging to the terminal/journal.

  ## See: https://eturnal.net/doc/#Module_Configuration
  modules:
    mod_log_stun: {}        # Log STUN queries (in addition to TURN sessions).
    #mod_stats_influx: {}   # Log STUN/TURN events into InfluxDB.
    #mod_stats_prometheus:  # Expose STUN/TURN and VM metrics to Prometheus.
    #  ip: any              # This is the default: Listen on all interfaces.
    #  port: 8081           # This is the default.
    #  tls: false           # This is the default.
    #  vm_metrics: true     # This is the default.

1. На месте secret: "ваш-секрет" замените значение ваш-секрет на вывод с команды

openssl rand -hex 32

и сохраните это значение, ибо потом нам оно понадобится.

2. На месте relay_ipv4_addr: "ваш_белый_(или_статичный)_IP" вставите свой IP
3. На месте tls_crt_file: ваш_путь_до_fullchain.pem и tls_key_file: ваш_путь_до_privkey.pem вставьте пути для соответствующих сертификатов

Также необходимо ввести следующую команду

sudo setfacl -R -m u:eturnal:rX /etc/letsencrypt/{live,archive}

для того, чтобы пользователю eturnal были доступны сертификаты.

После проведённых модификаций конфигурационного файла, необходимо перезапустить сервис eturnal:

sudo systemctl restart eturnal

После чего в браузере идём в настройки сервера Nextcloud (/settings/admin/talk) -> Конференции -> пункт TURN-серверы
Нажимаем + Добавить сервер TURN

В первом выпадающем списке ставим Только turns:
В URL сервера TURN ваш домен, к которому был привязан белый (статичный) IP
В Секретный ключ TURN-сервера вставляем секрет, который я просил сохранить ранее в пункте 1 выше

После вводим пароль (если попросят), затем нажимаем на значок линии сердцебиения (слева от значка корзинки), и, если всё настроено правильно, получаем зелёную галочку и радуемся жизни.

Возможно, вам нужно будет открыть порты 3478 и 5349, но это уже сами разберётесь как сделать.

[Не актуально] Nextcloud Assistant ← LiteLLM ← Ollama

/opt/hugo/blog/content/opus/nextcloud_x_litellm_x_ollama.md (Линк) — Fri, 19 Jul 2024 00:00:00 +0000

Опять же, как было в случае с принтером, у меня Arch-based дистрибутив, поэтому буду расписывать по нему.

Установка

Начнём с установки Ollama. У меня карточка от красных, поэтому я ставлю версию rocm.

yay -S ollama-rocm

или если нет yay

sudo pacman -S ollama-rocm

Сервис systemd

Как в моём случае, почему-то оно не подхватывало мою RX 6700 XT (но тут нашлось решение), поэтому мне пришлось редактировать сервис systemd следующим образом:

sudo systemctl edit --full ollama

[Unit]
Description=Ollama Service
Wants=network-online.target
After=network.target network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
WorkingDirectory=/var/lib/ollama
Environment="HOME=/var/lib/ollama"
Environment="HSA_OVERRIDE_GFX_VERSION=10.3.0" # Добавлено, чтобы увидело карточку
Environment="OLLAMA_HOST=0.0.0.0" # Возможность локально подключатся извне
User=ollama
Group=ollama
Restart=on-failure
RestartSec=3
Type=simple
PrivateTmp=yes
ProtectSystem=full
ProtectHome=yes

[Install]
WantedBy=multi-user.target

Импорт модели GGUF

Обн. от 05.08.24 - добавлена инструкция импорта моделей .gguf

Далее устанавливаем желаемую модель, в моём случае это llama3 и модель, которую можно импортировать из файла .gguf, я буду использовать saiga-llama3[🔗].

ollama pull llama3

Для того, чтобы импортировать модель, нам необходимо:

Загрузить модель 🙃
Создать файл, который можно скормить ollama

echo FROM папка_с_моделью/файл_модели.gguf >> файл_название_модели

В моём случае можно сразу название модели, потому что работаю сразу из папки с моделью

echo FROM saiga_llama3.gguf >> saiga-llama3

Осталось импортировать

ollama -f файл_название_модели название_модели

ollama -f saiga-llama3 saiga-llama3

LiteLLM

Далее идём ставить LiteLLM. Это прослойка между Ollama и Nextcloud LocalAI, которая использует запросы в формате OpenAI API.

pipx install 'litellm[proxy]'

Нам нужна именно litellm[proxy], а не просто litellm!

Теперь нужно собственно, запустить модели, с которыми впоследствии мы будем общаться через Nextcloud Assistant.
Однако, перед тем, как мы перейдём к запуску наших моделей, нам нужно создать файлик config.yaml, который мы впоследствии “скормим” LiteLLM со следующим содержимым:

model_list:
  - model_name: llama3
    litellm_params:
      model: ollama/llama3
  - model_name: saiga-llama3
    litellm_params:
      model: ollama/saiga-llama3
  # ну и далее по списку, если надо    
  - model_name: название_модели
    litellm_params:
      model: ollama/название_модели

Сервис systemd

Затем я сделал systemd сервис, чтобы не запускать это дело ручками, он должен располагаться в

/home/ваш_пользователь/.config/systemd/user/litellm.service

[Unit]
Description=LiteLLM for Ollama

[Service]
ExecStart=/home/ваш_пользователь/.local/bin/litellm --config путь_до/config.yaml
Restart=on-failure
RestartSec=5s

[Install]
WantedBy=default.target

systemctl --user daemon-reload
systemctl --user enable --now litellm

Nextcloud Assistant

Теперь идём в настройки сервера Искусственный интеллект [/settings/admin/ai], предварительно установив Nextcloud Assistant и OpenAI and LocalAI integration, листаем ниже до OpenAI и локальная интеграция.

Service URL - ip_пк:4000
Service Name (optional) - LiteLLM (или другое, какое хотите)

API key - не нужен
Default completion model to use - выбираем ollama/ваша_модель (openai)
Max new tokens per request - ставите сколько считаете нужным

Select enabled features

Отключил потому что модель такое не умеет:

Image generation provider
Speech-to-text

Статья написана без использования ИИ. Хотя, наверное, это и так видно 🙃

Вход в Nextcloud через Codeberg

/opt/hugo/blog/content/opus/codeberg_x_nextcloud.md (Линк) — Sun, 10 Dec 2023 00:00:00 +0000

Я не смог найти никакой информации об этом через поисковые системы, поэтому решил написать об этом здесь.
Пригодилось - https://forgejo.codeberg.page/docs/latest/user/oauth2-provider/

1. Создаём приложение в Codeberg и копируем куда-нибудь Client ID и Client secret.
2. Идём в параметры сервера Nextcloud, пункт Social Login, и создаём Custom Oauth2 на +.

Пункт	Что вводить
Внутреннее имя	Codeberg
Название	Codeberg
API Base URL	https://codeberg.org
Authorize url	https://codeberg.org/login/oauth/authorize
Token url	https://codeberg.org/login/oauth/access_token
Profile url	https://codeberg.org/login/oauth/userinfo
Logout url	Оставить пустым
Client ID и Client secret	вставить из 1 пункта
Scope	read:user
Остальные после	Не трогайте, если не уверены

3. Ставим галку напротив пункта Позволять пользователям подключать социальные логины к своим аккаунтам и нажимаем Сохранить внизу страницы.
4. Идём в режим Инкогнито вашего браузера, затем на страничку входа в ваше облако и копируем путь провайдера Codeberg - правая кнопка мыши, копируем ссылку, сохраняем куда-нибудь.
Должно выглядеть примерно так - https://cloud.example.org(/index.php)/apps/sociallogin/custom_oauth2/Codeberg
5. Возвращаемся к ранее созданному приложению Codeberg, Нажимаем Изменить и вставляем ссылку из прошлого пункта в поле URI для перенаправления, нажимаем Сохранить.

Теперь попробуйте связать ваш аккаунт Codeberg и Nextcloud из пункта Social Login в настройках пользователя Nextcloud, должно работать. В теории, это также применимо к Gitea, потому что Forgejo это форк Gitea.

Давеча сделал по этому поводу Issue на Github: https://github.com/zorn-v/nextcloud-social-login/issues/440