Trino
Trino是一套SQL查詢引擎,舊名PrestoSQL,是源自於Presto的引擎。
簡介
PrestoSQL是fork自Presto的專案,後來成立公司。在2018年時Facebook出面阻止使用其商標營利,改名為Trino。
硬件需求
測試時用t4g.small
就跑的動了,正式環境可以考慮先用c6g.medium
。
安裝
在Ubuntu類的系統上沒有套件可以裝,這邊建議直接下載並且安裝到/opt
下(另外需要Java 11):
sudo apt install -y openjdk-11-jre python-is-python3; sudo apt clean; cd /tmp; wget https://repo1.maven.org/maven2/io/trino/trino-server/363/trino-server-363.tar.gz; cd /opt; sudo tar xvf /tmp/trino-server-363.tar.gz; sudo mv trino-server-363 trino-server; cd trino-server; sudo mkdir data etc var; sudo chown -R nobody:nogroup /opt/trino-server/
設定
防火牆
Port | Usage | Comment |
---|---|---|
8080/tcp | Trino |
設定檔
基本上都是照着官方的安裝文件[1]設定,這邊有些設定要注意的:
etc/node.properties
的node.environment
。etc/jvm.config
的-Xmx1G
。
cd /opt/trino-server; sudo mkdir data etc; sudo tee etc/node.properties > /dev/null <<EOF
node.environment=production
node.id=$(uuidgen)
node.data-dir=/opt/trino-server/data
EOF
sudo tee etc/jvm.config > /dev/null <<EOF
-server
-Xmx1536M
-XX:-UseBiasedLocking
-XX:+UseG1GC
-XX:G1HeapRegionSize=32M
-XX:+ExplicitGCInvokesConcurrent
-XX:+ExitOnOutOfMemoryError
-XX:+HeapDumpOnOutOfMemoryError
-XX:-OmitStackTraceInFastThrow
-XX:ReservedCodeCacheSize=512M
-XX:PerMethodRecompilationCutoff=10000
-XX:PerBytecodeRecompilationCutoff=10000
-Djdk.attach.allowAttachSelf=true
-Djdk.nio.maxCachedBufferSize=2000000
EOF
sudo chown -R nobody:nogroup /opt/trino-server/etc/
然後是systemd的設定:
sudo tee /lib/systemd/system/trino.service > /dev/null <<EOF
#
# Install into /lib/systemd/system
[Unit]
Description=Trino daemon
After=remote-fs.target
[Service]
ExecStart=/opt/trino-server/bin/launcher run
Group=nogroup
Restart=always
RestartSec=60
Type=simple
User=nobody
[Install]
WantedBy=multi-user.target
EOF
sudo systemctl daemon-reload
接下來會依照不同的機器設定不同的值:
Coordinator
裏面的參數需要隨着機器的記憶體大小修改。
cd /opt/trino-server; sudo tee etc/config.properties > /dev/null <<EOF
coordinator=true
node-scheduler.include-coordinator=false
http-server.http.port=8080
query.max-memory=50GB
query.max-memory-per-node=512MB
query.max-total-memory-per-node=1GB
discovery.uri=http://example.net:8080
EOF
sudo chown -R nobody:nogroup /opt/trino-server/etc/
Worker
裏面的參數需要隨着機器的記憶體大小修改。
cd /opt/trino-server; sudo tee etc/config.properties > /dev/null <<EOF
coordinator=false
http-server.http.port=8080
query.max-memory=50GB
query.max-memory-per-node=512MB
query.max-total-memory-per-node=1GB
discovery.uri=http://example.net:8080
EOF
sudo chown -R nobody:nogroup /opt/trino-server/etc/
啟動
sudo systemctl daemon-reload; sudo systemctl enable trino; sudo service trino start
相關連結
參考文獻
- ↑ Deploying Trino. [2021-08-10] (English).