psql - 读取 SQL 文件并输出到 CSV

psql - read SQL file and output to CSV

我有一个 SQL 文件 my_query.sql:

select * from my_table

使用 psql,我可以读取这个 sql 文件:

\i my_query.sql

或将其作为参数传入:

psql -f my_query.sql

我可以将查询字符串的结果输出到 csv:

\copy (select * from my_table) to 'output.csv' with csv header

有没有办法将这些结合起来,以便我可以将查询结果从 SQL 文件输出到 CSV 文件?

您可以使用 bash 脚本来完成。

dump_query_to_csv.sh:

#!/bin/bash

# Takes an sql query file as an argument and dumps its results
# to a CSV file using psql \copy command.
#
# Usage:
#
#  dump_query_to_csv.sh <sql_query_file> [<csv_output_filesname>]

SQL_FILE=
[ -z $SQL_FILE ] && echo "Must supply query file" && exit
shift

OUT_FILE=
[ -z $OUT_FILE ] && OUT_FILE="output.csv" # default to "output.csv" if no argument is passed

TMP_TABLE=ttt_temp_table_xx # some table name that will not collide with existing tables

## Build a psql script to do the work
PSQL_SCRIPT=temp.psql

# create a temporary database table using the SQL from the query file
echo "DROP TABLE IF EXISTS $TMP_TABLE;CREATE TABLE $TMP_TABLE AS" > $PSQL_SCRIPT
cat $SQL_FILE >> $PSQL_SCRIPT
echo ";" >> $PSQL_SCRIPT

# copy the temporary table to the output CSV file
echo "\copy (select * from $TMP_TABLE) to '$OUT_FILE' with csv header" >> $PSQL_SCRIPT

# drop the temporary table
echo "DROP TABLE IF EXISTS $TMP_TABLE;" >> temp.sql

## Run psql script using psql
psql my_database < $PSQL_SCRIPT # replace my_database and add user login credentials as necessary

## Remove the psql script
rm $PSQL_SCRIPT

您需要编辑脚本中的 psql 行以连接到您的数据库。还可以增强脚本以将数据库和帐户凭据作为参数。

不幸的是,没有内置的功能,因此您需要一些 bash-fu 才能使其正常工作。

CONN="psql -U my_user -d my_db"
QUERY="$(sed 's/;//g;/^--/ d;s/--.*//g;' my_query.sql | tr '\n' ' ')"

echo "\copy ($QUERY) to 'out.csv' with CSV HEADER" | $CONN

sed 函数删除所有分号、注释行和行尾注释,tr 将换行符转换为空格(如@abelisto 的注释中所述):

-- my_query.sql
select *
from my_table
where timestamp < current_date -- only want today's records
limit 10;

变为:

select * from my_table where timestamp < current_date limit 10

然后传递给有效的 psql 命令:

\copy (select * from my_table where timestamp < current_date) to 'out.csv' with csv header

这是一个脚本:

sql_to_csv.sh

#!/bin/bash
# sql_to_csv.sh

CONN="psql -U my_user -d my_db"
QUERY="$(sed 's/;//g;/^--/ d;s/--.*//g;'  | tr '\n' ' ')"
echo "$QUERY"

echo "\copy ($QUERY) to '' with csv header" | $CONN > /dev/null

./sql_to_csv.sh my_query.sql out.csv

已接受的解决方案是正确的,但我有 Windows 并且必须通过批处理(命令)文件来实现 运行。如果有人需要,请在此处发布

@echo off

echo 'Reading file %1'
set CONN="C:\Program Files\PostgreSQL\bin\psql.exe" -U dbusername -d mydbname
"C:\Program Files\Git\usr\bin\sed.exe" 's/;//g;/^--/ d;s/--.*//g;' %1 | "C:\Program Files\Git\usr\bin\tr.exe" '\n' ' ' > c:\temp\query.txt
set /p QUERY=<c:\temp\query.txt
echo %QUERY%

echo \copy (%QUERY%) to '%2' WITH (FORMAT CSV, HEADER) | %CONN%

我认为最简单的方法是利用 shell 的变量扩展功能:

psql -U my_user -d my_db -c "COPY ($(cat my_query.sql)) TO STDOUT WITH CSV HEADER" > my_query_results.csv