TAOS SQL

TDengine提供类似SQL语法,用户可以在TDengine Shell中使用SQL语句操纵数据库,也可以通过C/C++, Java(JDBC), Python, Go等各种程序来执行SQL语句。

本章节SQL语法遵循如下约定:

  • < > 里的内容是用户需要输入的,但不要输入<>本身
  • [ ]表示内容为可选项,但不能输入[]本身
  • | 表示多选一,选择其中一个即可,但不能输入|本身
  • … 表示前面的项可重复多个

支持的数据类型

使用TDengine,最重要的是时间戳。创建并插入记录、查询历史记录的时候,均需要指定时间戳。时间戳有如下规则:

  • 时间格式为YYYY-MM-DD HH:mm:ss.MS, 默认时间分辨率为毫秒。比如:2017-08-12 18:25:58.128
  • 内部函数now是服务器的当前时间
  • 插入记录时,如果时间戳为0,插入数据时使用服务器当前时间
  • Epoch Time: 时间戳也可以是一个长整数,表示从1970-01-01 08:00:00.000开始的毫秒数
  • 时间可以加减,比如 now-2h,表明查询时刻向前推2个小时(最近2小时)。数字后面的时间单位:a(毫秒), s(秒), m(分), h(小时), d(天),w(周), n(月), y(年)。比如select * from t1 where ts > now-2w and ts <= now-1w, 表示查询两周前整整一周的数据

TDengine缺省的时间戳是毫秒精度,但通过修改配置参数enableMicrosecond就可支持微秒。

在TDengine中,普通表的数据模型中可使用以下10种数据类型。

类型 Bytes 说明
1 TIMESTAMP 8 时间戳。最小精度毫秒。从格林威治时间1970-01-01 08:00:00.000开始,计时不能早于该时间。
2 INT 4 整型,范围 [-2^31+1, 2^31-1], -2^31被用作Null值
3 BIGINT 8 长整型,范围 [-2^59, 2^59]
4 FLOAT 4 浮点型,有效位数6-7,范围 [-3.4E38, 3.4E38]
5 DOUBLE 8 双精度浮点型,有效位数15-16,范围 [-1.7E308, 1.7E308]
6 BINARY 自定义 用于记录字符串,最长不能超过504 bytes。binary仅支持字符串输入,字符串两端使用单引号引用,否则英文全部自动转化为小写。使用时须指定大小,如binary(20)定义了最长为20个字符的字符串,每个字符占1byte的存储空间。如果用户字符串超出20字节,将被自动截断。对于字符串内的单引号,可以用转义字符反斜线加单引号来表示, 即 \’
7 SMALLINT 2 短整型, 范围 [-32767, 32767]
8 TINYINT 1 单字节整型,范围 [-127, 127]
9 BOOL 1 布尔型,{true, false}
10 NCHAR 自定义 用于记录非ASCII字符串,如中文字符。每个nchar字符占用4bytes的存储空间。字符串两端使用单引号引用,字符串内的单引号需用转义字符 \’。nchar使用时须指定字符串大小,类型为nchar(10)的列表示此列的字符串最多存储10个nchar字符,会固定占用40bytes的空间。如用户字符串长度超出声明长度,则将被自动截断。

Tips: TDengine对SQL语句中的英文字符不区分大小写,自动转化为小写执行。因此用户大小写敏感的字符串及密码,需要使用单引号将字符串引起来。

数据库管理

  • 创建数据库

    CREATE DATABASE [IF NOT EXISTS] db_name [KEEP keep]

    创建数据库。KEEP是该数据库的数据保留多长天数,缺省是3650天(10年),数据库会自动删除超过时限的数据。数据库还有更多与存储相关的配置参数,请参见系统管理

  • 使用数据库

    USE db_name

    使用/切换数据库

  • 删除数据库

    DROP DATABASE [IF EXISTS] db_name

    删除数据库。所包含的全部数据表将被删除,谨慎使用

  • 显示系统所有数据库

    SHOW DATABASES

表管理

  • 创建数据表

    CREATE TABLE [IF NOT EXISTS] tb_name (timestamp_field_name TIMESTAMP, field1_name data_type1 [, field2_name data_type2 ...])

    说明:1)表的第一个字段必须是TIMESTAMP,并且系统自动将其设为主键;2)表的每行长度不能超过4096字节;3)使用数据类型binary或nchar,需指定其最长的字节数,如binary(20),表示20字节。

  • 删除数据表

    DROP TABLE [IF EXISTS] tb_name
  • 显示当前数据库下的所有数据表信息

    SHOW TABLES [LIKE tb_name_wildcar]

    显示当前数据库下的所有数据表信息。说明:可在like中使用通配符进行名称的匹配。 通配符匹配:1)’%’ (百分号)匹配0到任意个字符;2)’_’下划线匹配一个字符。

  • 获取表的结构信息

    DESCRIBE tb_name
  • 表增加列

    ALTER TABLE tb_name ADD COLUMN field_name data_type
  • 表删除列

    ALTER TABLE tb_name DROP COLUMN field_name 

    如果表是通过超级表创建,更改表结构的操作只能对超级表进行。同时针对超级表的结构更改对所有通过该结构创建的表生效。对于不是通过超级表创建的表,可以直接修改表结构

    Tips:SQL语句中操作的当前数据库(通过use db_name的方式指定)中的表不需要指定表所属数据库。如果要操作非当前数据库中的表,需要采用“库名”.“表名”的方式。例如:demo.tb1,是指数据库demo中的表tb1。

数据写入

  • 插入一条记录

    INSERT INTO tb_name VALUES (field_value, ...);

    向表tb_name中插入一条记录

  • 插入一条记录,数据对应到指定的列

    INSERT INTO tb_name (field1_name, ...) VALUES(field1_value, ...)

    向表tb_name中插入一条记录,数据对应到指定的列。SQL语句中没有出现的列,数据库将自动填充为NULL。主键(时间戳)不能为NULL。

  • 插入多条记录

    INSERT INTO tb_name VALUES (field1_value1, ...) (field1_value2, ...)...;

    向表tb_name中插入多条记录

  • 按指定的列插入多条记录

    INSERT INTO tb_name (field1_name, ...) VALUES(field1_value1, ...) (field1_value2, ...)

    向表tb_name中按指定的列插入多条记录

  • 向多个表插入多条记录

    INSERT INTO tb1_name VALUES (field1_value1, ...)(field1_value2, ...)... 
                tb2_name VALUES (field1_value1, ...)(field1_value2, ...)...;

    同时向表tb1_name和tb2_name中分别插入多条记录

  • 同时向多个表按列插入多条记录

    INSERT INTO tb1_name (tb1_field1_name, ...) VALUES (field1_value1, ...) (field1_value1, ...)
                tb2_name (tb2_field1_name, ...) VALUES(field1_value1, ...) (field1_value2, ...)

    同时向表tb1_name和tb2_name中按列分别插入多条记录

注意:对同一张表,插入的新记录的时间戳必须递增,否则会跳过插入该条记录。如果时间戳为0,系统将自动使用服务器当前时间作为该记录的时间戳。

IMPORT:如果需要将时间戳小于最后一条记录时间的记录写入到数据库中,可使用IMPORT替代INSERT命令,IMPORT的语法与INSERT完全一样。如果同时IMPORT多条记录,需要保证一批记录是按时间戳排序好的。

数据查询

查询语法是:

SELECT {* | expr_list} FROM tb_name
    [WHERE where_condition]
    [ORDER BY _c0 { DESC | ASC }]
    [LIMIT limit [, OFFSET offset]]
    [>> export_file]

SELECT function_list FROM tb_name
    [WHERE where_condition]
    [LIMIT limit [, OFFSET offset]]
    [>> export_file]
  • 可以使用* 返回所有列,或指定列名。可以对数字列进行四则运算,可以给输出的列取列名
  • where语句可以使用各种逻辑判断来过滤数字值,或使用通配符来过滤字符串
  • 输出结果缺省按首列时间戳升序排序,但可以指定按降序排序(_c0指首列时间戳)。使用ORDER BY对其他字段进行排序为非法操作。
  • 参数LIMIT控制输出条数,OFFSET指定从第几条开始输出。LIMIT/OFFSET对结果集的执行顺序在ORDER BY之后。
  • 通过”>>"输出结果可以导出到指定文件

支持的条件过滤操作

Operation Note Applicable Data Types
> larger than timestamp and all numeric types
< smaller than timestamp and all numeric types
>= larger than or equal to timestamp and all numeric types
<= smaller than or equal to timestamp and all numeric types
= equal to all types
<> not equal to all types
% match with any char sequences binary nchar
_ match with a single char binary nchar
  1. 同时进行多个字段的范围过滤需要使用关键词AND进行连接不同的查询条件,暂不支持OR连接的查询条件。
  2. 针对某一字段的过滤只支持单一区间的过滤条件。例如:value>20 and value<30是合法的过滤条件, 而Value<20 AND value<>5是非法的过滤条件。

Some Examples

  • 对于下面的例子,表tb1用以下语句创建

    CREATE TABLE tb1 (ts timestamp, col1 int, col2 float, col3 binary(50))
  • 查询tb1刚过去的一个小时的所有记录

    SELECT * FROM tb1 WHERE ts >= NOW - 1h
  • 查询表tb1从2018-06-01 08:00:00.000 到2018-06-02 08:00:00.000时间范围,并且clo3的字符串是'nny'结尾的记录,结果按照时间戳降序

    SELECT * FROM tb1 WHERE ts > '2018-06-01 08:00:00.000' AND ts <= '2018-06-02 08:00:00.000' AND col3 LIKE '%nny' ORDER BY ts DESC
  • 查询col1与col2的和,并取名complex, 时间大于2018-06-01 08:00:00.000, col2大于1.2,结果输出仅仅10条记录,从第5条开始

    SELECT (col1 + col2) AS 'complex' FROM tb1 WHERE ts > '2018-06-01 08:00:00.000' and col2 > 1.2 LIMIT 10 OFFSET 5
  • 查询过去10分钟的记录,col2的值大于3.14,并且将结果输出到文件 /home/testoutpu.csv.

    SELECT COUNT(*) FROM tb1 WHERE ts >= NOW - 10m AND col2 > 3.14 >> /home/testoutpu.csv

SQL函数

聚合函数

TDengine支持针对数据的聚合查询。提供支持的聚合和提取函数如下表:

  • COUNT

    SELECT COUNT([*|field_name]) FROM tb_name [WHERE clause]

    功能说明:统计表/超级表中记录行数或某列的非空值个数。
    返回结果数据类型:长整型INT64。
    应用字段:应用全部字段。
    适用于:表、超级表。
    说明:1)可以使用星号来替代具体的字段,使用星号()返回全部记录数量。2)针对同一表的(不包含NULL值)字段查询结果均相同。3)如果统计对象是具体的列,则返回该列中非NULL值的记录数量。

  • AVG

    SELECT AVG(field_name) FROM tb_name [WHERE clause]

    功能说明:统计表/超级表中某列的平均值。
    返回结果数据类型:双精度浮点数Double。
    应用字段:不能应用在timestamp、binary、nchar、bool字段。
    适用于:表、超级表。

  • WAVG

    SELECT WAVG(field_name) FROM tb_name WHERE clause

    功能说明:统计表/超级表中某列在一段时间内的时间加权平均。
    返回结果数据类型:双精度浮点数Double。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    适用于:表、超级表。

  • SUM

    SELECT SUM(field_name) FROM tb_name [WHERE clause]

    功能说明:统计表/超级表中某列的和。
    返回结果数据类型:双精度浮点数Double和长整型INT64。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    适用于:表、超级表。

  • STDDEV

    SELECT STDDEV(field_name) FROM tb_name [WHERE clause]

    功能说明:统计表中某列的均方差。
    返回结果数据类型:双精度浮点数Double。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    适用于:表。

  • LEASTSQUARES

    SELECT LEASTSQUARES(field_name) FROM tb_name [WHERE clause]

    功能说明:统计表中某列的值是主键(时间戳)的拟合直线方程。
    返回结果数据类型:字符串表达式(斜率, 截距)。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:自变量是时间戳,因变量是该列的值。
    适用于:表。

选择函数

  • MIN

    SELECT MIN(field_name) FROM {tb_name | stb_name} [WHERE clause]

    功能说明:统计表/超级表中某列的值最小值。
    返回结果数据类型:同应用的字段。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。

  • MAX

    SELECT MAX(field_name) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表/超级表中某列的值最大值。
    返回结果数据类型:同应用的字段。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。

  • FIRST

    SELECT FIRST(field_name) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表/超级表中某列的值最先写入的非NULL值。
    返回结果数据类型:同应用的字段。
    应用字段:所有字段。
    说明:1)如果要返回各个列的首个(时间戳最小)非NULL值,可以使用FIRST(*);2) 如果结果集中的某列全部为NULL值,则该列的返回结果也是NULL;3) 如果结果集中所有列全部为NULL值,则不返回结果。

  • LAST

    SELECT LAST(field_name) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表/超级表中某列的值最后写入的非NULL值。
    返回结果数据类型:同应用的字段。
    应用字段:所有字段。
    说明:1)如果要返回各个列的最后(时间戳最大)一个非NULL值,可以使用LAST(*);2)如果结果集中的某列全部为NULL值,则该列的返回结果也是NULL;如果结果集中所有列全部为NULL值,则不返回结果。

  • TOP

    SELECT TOP(field_name, K) FROM { tb_name | stb_name } [WHERE clause]

    功能说明: 统计表/超级表中某列的值最大k个非NULL值。若多于k个列值并列最大,则返回时间戳小的。
    返回结果数据类型:同应用的字段。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:1)k值取值范围1≤k≤100;2)系统同时返回该记录关联的时间戳列。

  • BOTTOM

    SELECT BOTTOM(field_name, K) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表/超级表中某列的值最小k个非NULL值。若多于k个列值并列最小,则返回时间戳小的。
    返回结果数据类型:同应用的字段。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:1)k值取值范围1≤k≤100;2)系统同时返回该记录关联的时间戳列。

  • PERCENTILE

    SELECT PERCENTILE(field_name, P) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表中某列的值百分比分位数。
    返回结果数据类型: 双精度浮点数Double。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:k值取值范围0≤k≤100,为0的时候等同于MIN,为100的时候等同于MAX。

  • LAST_ROW

    SELECT LAST_ROW(field_name) FROM { tb_name | stb_name }

    功能说明:返回表(超级表)的最后一条记录。
    返回结果数据类型:同应用的字段。
    应用字段:所有字段。
    说明:与last函数不同,last_row不支持时间范围限制,强制返回最后一条记录。

计算函数

  • DIFF

    SELECT DIFF(field_name) FROM tb_name [WHERE clause]

    功能说明:统计表中某列的值与前一行对应值的差。
    返回结果数据类型: 同应用字段。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:输出结果行数是范围内总行数减一,第一行没有结果输出。

  • SPREAD

    SELECT SPREAD(field_name) FROM { tb_name | stb_name } [WHERE clause]

    功能说明:统计表/超级表中某列的最大值和最小值之差。
    返回结果数据类型: 双精度浮点数。
    应用字段:不能应用在binary、nchar、bool类型字段。
    说明:可用于TIMESTAMP字段,此时表示记录的时间覆盖范围。

  • 四则运算

    SELECT field_name [+|-|*|/|%][Value|field_name] FROM { tb_name | stb_name }  [WHERE clause]

    功能说明:统计表/超级表中某列或多列间的值加、减、乘、除、取余计算结果。
    返回结果数据类型:双精度浮点数。
    应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
    说明:1)支持两列或多列之间进行计算,可使用括号控制计算优先级;2)NULL字段不参与计算,如果参与计算的某行中包含NULL,该行的计算结果为NULL。

时间维度聚合

TDengine支持按时间段进行聚合,可以将表中数据按照时间段进行切割后聚合生成结果,比如温度传感器每秒采集一次数据,但需查询每隔10分钟的温度平均值。这个聚合适合于降维(down sample)操作, 语法如下:

SELECT function_list FROM tb_name 
  [WHERE where_condition]
  INTERVAL (interval)
  [FILL ({NONE | VALUE | PREV | NULL | LINEAR})]

SELECT function_list FROM stb_name 
  [WHERE where_condition]
  [GROUP BY tags]
  INTERVAL (interval)
  [FILL ({ VALUE | PREV | NULL | LINEAR})]
  • 聚合时间段的长度由关键词INTERVAL指定,最短时间间隔10毫秒(10a)。聚合查询中,能够同时执行的聚合和选择函数仅限于单个输出的函数:count、avg、sum 、stddev、leastsquares、percentile、min、max、first、last,不能使用具有多行输出结果的函数(例如:top、bottom、diff以及四则运算)。
  • WHERE语句可以指定查询的起止时间和其他过滤条件
  • FILL语句指定某一时间区间数据缺失的情况下的填充模式。填充模式包括以下几种:
  1. 不进行填充:NONE(默认填充模式)。

  2. VALUE填充:固定值填充,此时需要指定填充的数值。例如:fill(value, 1.23)。

  3. NULL填充:使用NULL填充数据。例如:fill(null)。

  4. PREV填充:使用前一个非NULL值填充数据。例如:fill(prev)。

说明:

  1. 使用FILL语句的时候可能生成大量的填充输出,务必指定查询的时间区间。针对每次查询,系统可返回不超过1千万条具有插值的结果。
  2. 在时间维度聚合中,返回的结果中时间序列严格单调递增。
  3. 如果查询对象是超级表,则聚合函数会作用于该超级表下满足值过滤条件的所有表的数据。如果查询中没有使用group by语句,则返回的结果按照时间序列严格单调递增;如果查询中使用了group by语句分组,则返回结果中每个group内不按照时间序列严格单调递增。

示例:温度数据表的建表语句如下:

create table sensor(ts timestamp, degree double, pm25 smallint) 

针对传感器采集的数据,以10分钟为一个阶段,计算过去24小时的温度数据的平均值、最大值、温度的中位数、以及随着时间变化的温度走势拟合直线。如果没有计算值,用前一个非NULL值填充。

SELECT AVG(degree),MAX(degree),LEASTSQUARES(degree), PERCENTILE(degree, 50) FROM sensor
  WHERE TS>=NOW-1d
  INTERVAL(10m)
  FILL(PREV);