插入数据时需谨慎,数据库入门必知 (数据插入数据库需要注意什么)

对于数据库的初学者来说,插入数据是一个极其基础和常见的操作。无论是在开发网站还是管理企业数据中心,插入数据几乎是所有数据库应用的必经之路。然而在进行数据插入的过程中,很多人都会犯一些常见的失误,这些错误有时候可能造成无可挽回的后果。因此,在进行数据插入时,必须小心谨慎。以下就是一些数据库初学者必须知道的关于插入数据的注意事项。

确认表结构

在开始插入数据之前,必须确认表结构的定义。确保表设计与数据的类型和数据量的匹配。若表定义错误,则无法正确地插入数据,甚至可能导致数据结构的破坏。因此,在进行数据插入前一定要确认表的定义,并确保数据与表定义相符合。

数据的合理性

在进行数据插入之前,需要对数据进行合理性校验。这是因为,数据的存储是有一定的规则的。如果数据不符合规则,就可能导致数据结构的破坏或者其他错误。因此,在插入数据之前,需要对数据进行合理性判断,确保数据符合规则。

数据的唯一性

当插入新数据时,需要确保表中不存在相同的数据。这时可以通过制定唯一性约束或者在插入数据前进行查询保证唯一性。如果插入一条已经存在的数据,不仅会失败,而且还可能导致其他数据的错误。

数据的类型匹配

在进行数据插入时,必须确保数据类型与表定义相匹配。在设计表时,定义了每一列的数据类型,如果插入了不匹配的数据类型,就可能导致程序出现错误,或者数据库中存储的数据无法使用。在进行数据插入前,必须查看表定义并确定数据类型的匹配性,这是插入数据时的一个非常重要的注意事项。

事务的使用

在进行数据插入时,应该使用事务来保证数据库的表和数据的完整性。未使用事务将无法保证数据的完整性,因为在插入数据的过程中可能会发生错误,这时候数据库中的数据就会出现不一致性。使用事务来进行数据插入将保证了数据的完整性,也可以更好地控制数据库的安全性。

数据的插入是数据库管理中非常基础的一个操作。在进行数据插入时,需要小心谨慎。必须确认表的定义,并确保数据与表定义相符合。数据类型的匹配性也是插入数据时的一个重要考虑因素。同时,使用事务来进行数据插入,可以保证数据的完整性,提高了数据库的安全性。对于数据库的初学者来说,插入数据是非常重要的,这些注意事项将有助于避免插入数据中的错误。

相关问题拓展阅读:

sqlalchemy做批量数据插入的时候要注意什么?有什么可以优化的

举例来说吧. 关键点都在注释里

import sqlalchemy as sa

# 用Sqlite做例子,别的数据库连接字符串不同

engine = sa.create_engine(‘ echo=True)

metadata = sa.MetaData()

# 假定这个是表结构

widgets_table = sa.Table(‘widgets’, metadata,

    sa.Column(‘id’, sa.Integer, primary_key=True),

    sa.Column(‘foo’, sa.String(50)),

    sa.Column(‘bar’, sa.String(50)),

    sa.Column(‘biz’, sa.Boolean),

    sa.Column(‘baz’, sa.Integer),

    )

metadata.create_all(engine)

# 假定这是你的数据结构,在一个list中每个元组是一条记录

values = 

    (None, “Test”, True, 3),

    (None, “Test”, True, 3),

    >

# 主要是参考这部分如何批量插入

with engine.connect() as connection:

    with connection.begin() as transaction:

try:

markers = ‘,’.join(‘?’ * len(values))

# 按段数拼成makers = ‘(?,?,?,?)’

ins = ‘INSERT INTO {tablename} VALUES ({markers})’

祥弊仔ins = ins.format(tablename=widgets_table.name, markers=markers)

  谨汪# 如果你的表已经存在了,widgets_table.name改成表名就行了.

connection.execute(ins, values)

 卜差except:

transaction.rollback()

raise

else:

transaction.commit()

一、开始使用:

from sqlalchemy import create_engine

from sqlalchemy.orm import sessionmaker

DB_CONNECT_STRING = ‘mysql+

engine = create_engine(DB_CONNECT_STRING, echo=True)

DB_Session = sessionmaker(bind=engine)

session = DB_Session()

这里的 DB_CONNECT_STRING 就是连接数据库的路径。“mysql+mysqldb”指碰备绝定了使用 MySQL-Python 来连接,“root”和“123”分别是用户名和密码,“localhost”是数据库的域名,“ooxx”是使滚罩用的数据库名(可省略),“charset”指定了连接时使用的字符集(可省略)。

create_engine() 会返回一个数据库引擎,echo 参数为笑姿 True 时,会显示每条执行的 SQL 语句,生产环境下可关闭。

sessionmaker() 会生成一个数据库会话类。这个类的实例可以当成一个数据库连接,它同时还记录了一些查询的数据,并决定什么时候执行 SQL 语句。由于 SQLAlchemy 自己维护了一个数据库连接池(默认 5 个连接),因此初始化一个会话的开销并不大。对 Tornado 而言,可以在 BaseHandler 的 initialize() 里初始化:

class BaseHandler(tornado.web.RequestHandler):

def initialize(self):

self.session = models.DB_Session()

def on_finish(self):

self.session.close()

对其他 Web 服务器来说,可以使用 sqlalchemy.orm.scoped_session,它能保证每个线程获得的 session 对象都是唯一的。不过 Tornado 本身就是单线程的,如果使用了异步方式,就可能会出现问题,因此并没使用它。

拿到 session 后,就可以执行 SQL 了:

session.execute(‘create database abc’)

print session.execute(‘show databases’).fetchall()

session.execute(‘use abc’)

# 建 user 表的过程略

print session.execute(‘select * from user where id = 1’).first()

print session.execute(‘select * from user where id = :id’, {‘id’: 1}).first()

不过这和直接使用 MySQL-Python 没啥区别;ORM 的方式,这也是采用 SQLAlchemy 的唯一原因。

于是来定义一个表:

from sqlalchemy import Column

from sqlalchemy.types import CHAR, Integer, String

from sqlalchemy.ext.declarative import declarative_base

BaseModel = declarative_base()

def init_db():

BaseModel.metadata.create_all(engine)

def drop_db():

BaseModel.metadata.drop_all(engine)

class User(BaseModel):

__tablename__ = ‘user’

id = Column(Integer, primary_key=True)

name = Column(CHAR(30)) # or Column(String(30))

init_db()

declarative_base() 创建了一个 BaseModel 类,这个类的子类可以自动与一个表关联。

以 User 类为例,它的 __tablename__ 属性就是数据库中该表的名称,它有 id 和 name 这两个字段,分别为整型和 30 个定长字符。Column 还有一些其他的参数,我就不解释了。

最后,BaseModel.metadata.create_all(engine) 会找到 BaseModel 的所有子类,并在数据库中建立这些表;drop_all() 则是删除这些表。

接着就开始使用这个表吧:

from sqlalchemy import func, or_, not_

user = User(name=’a’)

session.add(user)

user = User(name=’b’)

session.add(user)

user = User(name=’a’)

session.add(user)

user = User()

session.add(user)

session.commit()

query = session.query(User)

print query # 显示SQL 语句

print query.statement # 同上

for user in query: # 遍历时查询

print user.name

print query.all() # 返回的是一个类似列表的对象

print query.first().name # 记录不存在时,first() 会返回 None

# print query.one().name # 不存在,或有多行记录时会抛出异常

print query.filter(User.id == 2).first().name

print query.get(2).name # 以主键获取,等效于上句

print query.filter(‘id = 2’).first().name # 支持字符串

query2 = session.query(User.name)

print query2.all() # 每行是个元组

print query2.limit(1).all() # 最多返回 1 条记录

print query2.offset(1).all() # 从第 2 条记录开始返回

print query2.order_by(User.name).all()

print query2.order_by(‘name’).all()

print query2.order_by(User.name.desc()).all()

print query2.order_by(‘name desc’).all()

print session.query(User.id).order_by(User.name.desc(), User.id).all()

print query2.filter(User.id == 1).scalar() # 如果有记录,返回之一条记录的之一个元素

print session.query(‘id’).select_from(User).filter(‘id = 1’).scalar()

print query2.filter(User.id > 1, User.name != ‘a’).scalar() # and

query3 = query2.filter(User.id > 1) # 多次拼接的 filter 也是 and

query3 = query3.filter(User.name != ‘a’)

print query3.scalar()

print query2.filter(or_(User.id == 1, User.id == 2)).all() # or

print query2.filter(User.id.in_((1, 2))).all() # in

query4 = session.query(User.id)

print query4.filter(User.name == None).scalar()

print query4.filter(‘name is null’).scalar()

print query4.filter(not_(User.name == None)).all() # not

print query4.filter(User.name != None).all()

print query4.count()

print session.query(func.count(‘*’)).select_from(User).scalar()

print session.query(func.count(‘1’)).select_from(User).scalar()

print session.query(func.count(User.id)).scalar()

print session.query(func.count(‘*’)).filter(User.id > 0).scalar() # filter() 中包含 User,因此不需要指定表

print session.query(func.count(‘*’)).filter(User.name == ‘a’).limit(1).scalar() == 1 # 可以用 limit() 限制 count() 的返回数

print session.query(func.sum(User.id)).scalar()

print session.query(func.now()).scalar() # func 后可以跟任意函数名,只要该数据库支持

print session.query(func.current_timestamp()).scalar()

print session.query(func.md5(User.name)).filter(User.id == 1).scalar()

query.filter(User.id == 1).update({User.name: ‘c’})

user = query.get(1)

print user.name

user.name = ‘d’

session.flush() # 写数据库,但并不提交

print query.get(1).name

session.delete(user)

session.flush()

print query.get(1)

session.rollback()

print query.get(1).name

query.filter(User.id == 1).delete()

session.commit()

print query.get(1)

二、进阶的知识。

1)如何批量插入大批数据?

可以使用非 ORM 的方式:

session.execute(

User.__table__.insert(),

)

session.commit()

如何批量插入大批数据?

可以使用非 ORM 的方式:

session.execute(

User.__table__.insert(),

)

session.commit()

上面批量插入了条记录,半秒内就执行完了;而 ORM 方式会花掉很长时间。

2)如何让执行的 SQL 语句增加前缀?

使用 query 对象的 prefix_with() 方法:

session.query(User.name).prefix_with(‘HIGH_PRIORITY’).all()

session.execute(User.__table__.insert().prefix_with(‘IGNORE’), {‘id’: 1, ‘name’: ‘1’})

3)如何替换一个已有主键的记录?

使用 session.merge() 方法替代 session.add(),其实就是 SELECT + UPDATE:

user = User(id=1, name=’ooxx’)

session.merge(user)

session.commit()

或者使用 MySQL 的 INSERT … ON DUPLICATE KEY UPDATE,需要用到 @compiles 装饰器,有点难懂,自己看吧:《SQLAlchemy ON DUPLICATE KEY UPDATE》 和 sqlalchemy_mysql_ext。

4)如何使用无符号整数?

可以使用 MySQL 的方言:

from sqlalchemy.dialects.mysql import INTEGER

id = Column(INTEGER(unsigned=True), primary_key=True)

5)模型的属性名需要和表的字段名不一样怎么办?

开发时遇到过一个奇怪的需求,有个其他系统的表里包含了一个“from”字段,这在 Python 里是关键字,于是只能这样处理了:

from_ = Column(‘from’, CHAR(10))

6)如何获取字段的长度?

Column 会生成一个很复杂的对象,想获取长度比较麻烦,这里以 User.name 为例:

User.name.property.columns.type.length

7)如何指定使用 InnoDB,以及使用 UTF-8 编码?

最简单的方式就是修改数据库的默认配置。如果非要在代码里指定的话,可以这样:

class User(BaseModel):

__table_args__ = {

‘mysql_engine’: ‘InnoDB’,

‘mysql_charset’: ‘utf8’

}

MySQL 5.5 开始支持存储 4 字节的 UTF-8 编码的字符了,iOS 里自带的 emoji(如 ? 字符)就属于这种。

如果是对表来设置的话,可以把上面代码中的 utf8 改成 utf8mb4,DB_CONNECT_STRING 里的 charset 也这样更改。

如果对库或字段来设置,则还是自己写 SQL 语句比较方便,具体细节可参考《How to support full Unicode in MySQL databases》。

不建议全用 utf8mb4 代替 utf8,因为前者更慢,索引会占用更多空间。

8)如何设置外键约束?

from random import randint

from sqlalchemy import ForeignKey

class User(BaseModel):

__tablename__ = ‘user’

id = Column(Integer, primary_key=True)

age = Column(Integer)

class Friendship(BaseModel):

__tablename__ = ‘friendship’

id = Column(Integer, primary_key=True)

user_id1 = Column(Integer, ForeignKey(‘user.id’))

user_id2 = Column(Integer, ForeignKey(‘user.id’))

for i in xrange(100):

session.add(User(age=randint(1, 100)))

session.flush() # 或 session.commit(),执行完后,user 对象的 id 属性才可以访问(因为 id 是自增的)

for i in xrange(100):

session.add(Friendship(user_id1=randint(1, 100), user_id2=randint(1, 100)))

session.commit()

session.query(User).filter(User.age

执行这段代码时,应该会遇到一个错误:

sqlalchemy.exc.IntegrityError: (IntegrityError) (1451, ‘Cannot delete or update a parent row: a foreign key constraint fails (`ooxx`.`friendship`, CONSTRAINT `friendship_ibfk_1` FOREIGN KEY (`user_id1`) REFERENCES `user` (`id`))’) ‘DELETE FROM user WHERE user.age

除了删除,还有可能更改主键,这也会导致 friendship 的外键失效。于是相应的就有 ON UPDATE 了。其中 CASCADE 变成了更新相应的外键,而不是删除。

而在 SQLAlchemy 中是这样处理的:

class Friendship(BaseModel):

__tablename__ = ‘friendship’

id = Column(Integer, primary_key=True)

user_id1 = Column(Integer, ForeignKey(‘user.id’, ondelete=’CASCADE’, onupdate=’CASCADE’))

user_id2 = Column(Integer, ForeignKey(‘user.id’, ondelete=’CASCADE’, onupdate=’CASCADE’))

9)如何连接表?

from sqlalchemy import distinct

from sqlalchemy.orm import aliased

Friend = aliased(User, name=’Friend’)

print session.query(User.id).join(Friendship, User.id == Friendship.user_id1).all() # 所有有朋友的用户

print session.query(distinct(User.id)).join(Friendship, User.id == Friendship.user_id1).all() # 所有有朋友的用户(去掉重复的)

print session.query(User.id).join(Friendship, User.id == Friendship.user_id1).distinct().all() # 同上

print session.query(Friendship.user_id2).join(User, User.id == Friendship.user_id1).order_by(Friendship.user_id2).distinct().all() # 所有被别人当成朋友的用户

print session.query(Friendship.user_id2).select_from(User).join(Friendship, User.id == Friendship.user_id1).order_by(Friendship.user_id2).distinct().all() # 同上,join 的方向相反,但因为不是 STRAIGHT_JOIN,所以 MySQL 可以自己选择顺序

print session.query(User.id, Friendship.user_id2).join(Friendship, User.id == Friendship.user_id1).all() # 用户及其朋友

print session.query(User.id, Friendship.user_id2).join(Friendship, User.id == Friendship.user_id1).filter(User.id

print session.query(User.id, Friend.id).join(Friendship, User.id == Friendship.user_id1).join(Friend, Friend.id == Friendship.user_id2).all() # 两次 join,由于使用到相同的表,因此需要别名

关于数据插入数据库需要注意什么的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。


数据运维技术 » 插入数据时需谨慎,数据库入门必知 (数据插入数据库需要注意什么)