探究Matlab如何与数据库结合实现高效数据处理 (matlab 与数据库)

随着数据处理需求的不断增加,越来越多的人开始关注如何使用软件工具来更好地处理数据。Matlab是一款优秀的数学软件,它具有强大的计算能力和丰富的功能,能够在数据处理中起到重要的作用。与此同时,数据库是一种存储和管理数据的系统,越来越多的数据都存储在数据库中。那么,如何将Matlab与数据库结合起来,实现高效数据处理呢?

一、为什么需要将Matlab与数据库结合

在处理数据过程中,我们需要从数据源中获取数据,如数据文件、数据库等。 对于数据量大的情况,从文件直接读取数据会非常耗时,甚至会造成系统崩溃。而数据库可以通过索引快速查询、过滤和更新数据,因此在处理大数据集时,使用数据库会提高效率。同时,Matlab可以进行数据分析、运算和可视化等操作,所以将数据库中的数据读取到Matlab中,并对其进行处理,将这两者结合起来则是处理大数据集非常有效的途径。

二、如何实现Matlab与数据库的结合

使用Matlab可以连接各种数据库类型,包括MySQL、Microsoft SQL Server、Oracle等。一般情况下,我们可以使用ODBC(Open Database Connectivity)来连接数据库。该接口定义了一套通用的API,可以让不同类型的数据库互相通讯。Matlab也提供了可以使用ODBC连接各种数据库的工具。

以MySQL数据库为例,以下是实现Matlab与MySQL的连接方法:

1. 创建ODBC数据源

首先需要在Windows环境下创建MySQL数据库的ODBC数据源。方法是:打开“控制面板”→“管理工具”→“ODBC数据源”→选择“系统DSN”→“添加”→选择“MySQL ODBC 5.3 ANSI Driver”或“MySQL ODBC 5.3 Unicode Driver” → 输入数据源名称、描述、服务器等信息后测试连接。

2. 使用ODBC连接MySQL

在Matlab中使用ODBC连接MySQL需要用到ODBC数据源,具体步骤如下:

“`matlab

db = database(‘MySQL’, ‘root’, ‘password’, ‘com.mysql.jdbc.Driver’, ‘jdbc:mysql://localhost:3306/test’,’com.mysql.jdbc.Driver’);

% ‘MySQL’表示数据库类型, ‘root’表示用户名,‘password’表示连接密码,‘com.mysql.jdbc.Driver’是MySQL的JDBC驱动,‘jdbc:mysql://localhost:3306/test’表示要连接到的MySQL数据库Server。

“`

3. 连接MySQL数据库

“`matlab

conn = database(‘test’, ‘root’, ‘password’, ‘com.mysql.jdbc.Driver’, ‘jdbc:mysql://localhost:3306/test’,’com.mysql.jdbc.Driver’);

% ‘test’为我们的数据库名。

“`

连接后,我们可以运行任何标准SQL查询语句,以获得所需的数据。在Matlab中,使用“exec”的方法执行SQL语句。Matlab将返回包含查询结果的数据集对象。

“`matlab

selectQuery = ‘SELECT * FROM table_name’;

results = fetch(exec(conn, selectQuery));

“`

三、Matlab如何高效处理数据库数据

在连接数据库后,我们可以通过将数据库查询获得的数据导入到Matlab中,然后对其进行分析、处理和可视化操作。

我们可以使用“fetch”的方法将结果导入到一个MATLAB数据结构中,如下所示:

“`matlab

results = fetch(selectStmt)

“`

这将返回一个MATLAB内部数据类型的结果集,可以直接进行处理和分析。此外,对于大型数据集,我们可以选择逐块读取数据,以减少内存消耗和加快程序的运行速度。例如,可以使用以下代码将结果逐块输出:

“`matlab

warning off;

fetchSize = 1000;

setdbprefs(‘DataReturnFormat’,’table’);

localSelect = [selectStmt,’ LIMIT’];

count = fetch(exec(conn, [‘select count(*) from (‘ selectStmt ‘) tempTable’]));

count = count.Data{1};

localResultSet = cell(1, ceil(count/fetchSize));

tic;

for ii = 1:length(localResultSet)

results = fetch(exec(conn, [localSelect ‘ ‘ num2str((ii-1)*fetchSize) ‘, ‘ num2str(fetchSize)]));

% 将查询结果转为数组,执行自定义函数

localResultSet{ii} = table2array(results);

end

disp([‘Query Runs in’,num2str(toc),’Seconds’]);

% 将每个区块结果拼接成完整的查询结果

totalResultSet = cat(1, localResultSet{:});

“`

Matlab提供了强大的功能和API,可以与各种类型的数据库进行连接,从而灵活地处理数据。借助Matlab的分析和处理能力,我们可以更高效、方便地获取和处理大量数据,从而为科学研究和工程设计提供了有价值的支持。

相关问题拓展阅读:

Matlab和Mysql数据连接问题。

有感于网上查到了大量相当有帮助的技术性文章,这里也把我前段时间实现的一个功能程序公布出来,供需者参考。

功能简介:服务器R(remote)只负责网站的运行和访问,每天获得一批新的原始数据,服务器L(local)负责后台运算,自动定时从服务器R的mysql里读取数据,在L上经过matlab编写的算法程序运算后再远程将结果写回R的数据库以实现网站的更新。全程无人值守。(L负责后台运算,安装matlab;R负责网络访问,安装mysql)

不同于网络上查到的实现方法,本程序全部在m文件里编写,不用php 或c++做接口,宗旨就是用简单的方法实现简单的想法。(以下假定suanfa.m子程序已经存在)

1.编写import_data.m子程序,实现从mysql读取数据到matlab中.

1)下载mysql的jdbc的java驱动,安装到*:\Program Files\MATLAB71\java\jar\toolbox路径下;

2)此“路径\文件名”添到*:\Program Files\MATLAB71\toolbox\local下的classpath.txt文件中;

3)设置mysql下的数据库名称为带有“mysql ”后缀的,比如:abcmysql;

4)服务器R的mysql下,输入“grant all on *.* to username@”L的IP” Identified by

“password”,允许L远程访问;

5)复制如下代码到import_data文件中

function MM=import_data();

timeoutA=logintimeout(5)

% Set maximum time allowed for establishing a connection.

connA = database(‘mysql’, ‘username’, ‘password’,’com.mysql.jdbc.Driver’,’jdbc:mysql:

//R的IP:3306/abc’)

ping(connA)% Check the database status.

cursorA=exec(connA,’SELECT ALL CONLUMA,CONLUMB,CONLUMC FROM tablename);

setdbprefs(‘DataReturnFormat’,’numeric’); %set numeric format

cursorA=fetch(cursorA) ; % Fetch all rows of data.

MM=cursorA.Data;% Display the data,save the data in MM

close(cursorA) ;% Close the cursor and the connection.

close(connA)

其中username,password,L\R的IP,数据库名称abc,tablename,sql语句都是要依实际修改的。

2.编写export_data.m子程序,实现从matlab写回数据到mysql中:

原理类似, (tablename2的表要事先建好u)复制以下程序:

timeoutA=logintimeout(5)

% Set maximum time allowed for establishing a connection.

connA = database(‘mysql’, ‘username’, ‘password’,’com.mysql.jdbc.Driver’,’jdbc:mysql:

//R的IP:3306/abc’)

ping(connA)% Check the database status.

%delete the records before updating

cursorA=exec(connA,’delete tablename FROM tablename’);

Colnames = ;%updating

fastinsert(connA, ‘tablename2’, Colnames,newdata);

close(cursorA) ;

close(connA);

其中username,password,R的IP,数据库名称abc,tablename,sql语句都是要以实际情况修改的,

newdata就是suanfa.m程序得到结果组成的矩阵,这些结果将写到数据库中tablename2的表中。

3.编写主程序以调用这些子程序:

4.编译m程序为exe程序:

(注意主程序头部的也要加“function”呦,否则作为脚本文件不能编译)

1)在matlab环境中配置编译器,输入mbuild -setup,依提示操作;

2)输入mcc -m main.m suanfa.m import_data.m export_data.m生成与主程序同名的exe文件;

3)设置windows任务计划,添加此exe文件便可以自动定时读取、计算、更新网站数据库了。

ps:matlab7.0没有找到deploytool工具,没法连接数据库,要使用更高版本的matlab。

Database Toolbox 2

和关系数据库进行数据交换

Database 工具箱可以使你使用MATLAB 的数据分析

和可视化工具对存储在数据库中的数据进行分析。在

MATLAB 工作环境中, 您可以使用结构化查询语言进

行:

■ 对数据库中的数据进行读写

■ 使用约束条件对数据库进行操作

您可以在MATLAB 中和绝大多数的数据库进行交

互, 包括Oracle、Sybase、Microsoft SQL Server、

MySQL、PostgreSQL 以及Microsoft Access 。该工具箱

还允许您在单个的MATLAB 任务中同时存取多个数据

库并且支持事务特性。它包含了Visual Query Builder

( 可视化查询工具), 它可以使您在不熟悉SQL 的情

况下和数据库进行交互。

Visual Query Builder

可以快速对您的数据

进行存取和图表显示

关键特性

■ 支持ODBC/JDBC 连接的数据库接口

包括Oracle、Sybase、Microsoft SQL

Server、MySQL、PostgreSQL 以及

Microsoft Access

■ 从MATLAB 中直接执行查询语句

■ 对于大数据量查询, 将增量获取数据

■ 在所有的数据导入和导出的过程中,

保留数据类型

■ 单个的MATLAB 任务中可以同时

存取多个数据库

■ 从一个数据库中导入数据,完成计

算后, 将结果输出到另外一个数据库

■ 在单个事务中获取大数据集, 或者分

割数据, 通过多个事务来完成

■ 通过在一个MATLAB 会话中保持数

据库连接来减少需要进行输入和输出

数据所需要的语句, 除非数据库连接

被显式关闭

■ 它可以使您在不熟悉SQL 的情况下

和数据库进行交互

在MATLAB 中对Microsoft Access 数据库进行查询

数据库工具箱函数列表

数据库访问函数

clearwarnings 清除数据库连接警告

close 关闭数据库连接

commit 数据库改变参数

database 连接数据库

exec 执行SQL语句和打开油标

get 得到数据库属性

insert 导出MATLAB单元数组数据到数据库表

isconnection 判断数据库连接是否有效

isreadonly 判断数据库连接是否只读

ping 得到数据库连接信息

rollback 撤销数据库变化

set 设置数据库连接属性

sql2native 转换JDBC SQL 语法为系统本身的SQL语法

update 用MATLAB单元数组数据代替数据库表的数据

数据库游标访问函数

attr 获得的数据集的列属性

close 关闭游标

cols 获得的数据集的列数值

columnnames 获得的数据集的列名称

fetch 导入数据到MATLAB单元数组

get 得到游标对象属性

querytimeout 数据库SQL查询成功的时间

rows 获取数据集的行数

set 设置游标获取的行限制

width 获取数据集的列宽

数据库元数据函数

bestrowid 得到数据库表唯一行标识

columnprivileges 得到数据库列优先权

columns 得到数据库表列名称

crossreference 得到主健和外健信息

dmd 创建数据库元数据对象

exportedkeys 得到导出外部健信息

get 得到数据库元数据属性

importedkeys 得到导入外健信息

indexinfo 得到数据库表的索引和统计

primarykeys 从数据库表或结构得到主健信息

procedurecolumns 得到目录存储程序参数和结果列

procedures 得到目录存储程序

supports 判断是否支持数据库元数据

tableprivileges 得到数据库表优先权

tables 得到数据库表名称

versioncolumns 得到自动更新表列

Xinsoft,:28:15

数据库工具箱让用户使用MATLAB强大数据分析和可视化工具功能处理存储在数据库中的数据的复杂分析。在MATLAB环境下工作,可以用结构化查询语言SQL)命令:

读,写数据库的数据

简单和高级条件的数据查询

连接MATLAB和数据库包括Oracle,Sybase,Microsoft SQL Server和Informix。

可以用单一MATLAB同时访问多个数据库,进行大数据量的事务处理。不懂SQL的用户可以用Visual Query Builder处理数据。

重点

鲁棒接口能力。 用ODBC/JDBC连接数据库,包括Oracle,Sybase SQL Server,Sybase SQL Anywhere,Microsoft SQL Server, Microsoft Access,

Informix Ingres.

SQL语法。 在MATLAB环境直接执行SQL查询

动态导入数据。 调节SQL查询,把数据导入MATLAB。数据库工具箱满足小的和大的查询。

数据类型保存。 在数据导入和导出行为MATLAB保存数据类型

同时访问多个数据库。 从数据库导入数据,对该数据执行计算,然后导入到另一个数据库。

处理大数据集的能力。

连续状态的数据库连接:一旦和某个数据库的连接建立后,数据库一直是打开的,除非在MATLAB中执行关闭语句。这提高了数据库的读取速度,减少了不必要的命令来调入,输出数据 Visual Query Builder. 该图形用户接口列数据源和所有表和字段,不懂SQL的用户可以访问和查询数据库函数列表

数据库访问函数

clearwarnings 清除数据库连接警告

close 关闭数据库连接

commit 数据库改变参数

database 连接数据库

exec 执行SQL语句和打开油标

get 得到数据库属性

insert 导出MATLAB单元数组数据到数据库表

isconnection 判断数据库连接是否有效

isreadonly 判断数据库连接是否只读

ping 得到数据库连接信息

rollback 撤销数据库变化

set 设置数据库连接属性

sql2native 转换JDBC SQL 语法为系统本身的SQL语法

update 用MATLAB单元数组数据代替数据库表的数据

数据库游标访问函数

attr 获得的数据集的列属性

close 关闭游标

cols 获得的数据集的列数值

columnnames 获得的数据集的列名称

fetch 导入数据到MATLAB单元数组

get 得到游标对象属性

querytimeout 数据库SQL查询成功的时间

rows 获取数据集的行数

set 设置游标获取的行限制

width 获取数据集的列宽

数据库元数据函数

bestrowid 得到数据库表唯一行标识

columnprivileges 得到数据库列优先权

columns 得到数据库表列名称

crossreference 得到主健和外健信息

dmd 创建数据库元数据对象

exportedkeys 得到导出外部健信息

get 得到数据库元数据属性

importedkeys 得到导入外健信息

indexinfo 得到数据库表的索引和统计

primarykeys 从数据库表或结构得到主健信息

procedurecolumns 得到目录存储程序参数和结果列

procedures 得到目录存储程序

supports 判断是否支持数据库元数据

tableprivileges 得到数据库表优先权

tables 得到数据库表名称

versioncolumns 得到自动更新表列

MATLABER曰:

这是个很经典的介绍,

因为它涉及到MATLAB在金融学中的应用,甚至利用它可以作出很好的财务软件.

zhimingchen曰:Visual Query Builder 不支持汉字,所以我觉得使用 Visual Query Builder 不是更好的方法;使用DAO,特别ADO是一种很好方法,可以做到与数据库无关;请看我的一个访问数据库的实例:

function Table=GetTable(ConnectionStr,SqlStr)

%ConnectionStr为连接串,比如可以设置ConnectionStr=’Data Source=HistryData2.0;

Pr

ovider=MSDASQL;User ID=Admin;Password=;’

%SqlStr为SQL语句,

% 利用ADO调用数据源

try

MyConnection=actxserver(‘ADODB.Connection’);

MyConnection.ConnectionString=ConnectionStr;

invoke(MyConnection,’Open’);

MyRecordset=invoke(MyConnection,’Execute’,SqlStr);

%域信息

Fields=MyRecordset.Fields;

%域个数

FieldNumber=Fields.Count;

FieldNames=cell(1,FieldNumber);

%获取数据

% invoke(MyRecordset,’MoveFirst’);

Data=invoke(MyRecordset,’GetRows’);

MyRecordset.Source;

%记录行数

RecordCount=size(Data,2);

for i=1:size(FieldNames,2)

TempField=get(Fields,’Item’,i-1);

FieldNames=TempField.Name;

end

%给Table赋植

Table.RecordCount=RecordCount;

Table.FieldNames=FieldNames;

Table.Data=Data;

invoke(MyRecordset,’Close’);

invoke(MyConnection,’Close’);

catch

msgbox(lasterr,’Tint’);

Table.Data={};

end

Xinsoft,:28:37

一、通过MATLAB 提供的数据库引擎, 以下是MATLAB ,DATABASE TOOLBOX中的例子,

通过ODBC/JDBC 接口访问具体的数据库

function dbimportdemo()

%DBIMPORTDEMO Imports data into Matlab from a database.

% Version 1.0 21-Oct-1997

% Author(s): E.F. McGoldrick, 12/5/1997

% Copyright (c)The MathWorks, Inc.

% $Revision: 1.7 $ $Date: 2023/01/12 16:22:06 $

% Set maximum time allowed for establishing a connection.

timeoutA=logintimeout(5)

% Connect to a database.

%打开数据源 SampleDB

connA=database(‘SampleDB’,”,”)

% Check the database status.

ping(connA)

% Open cursor and execute SQL statement.

%执行SQL查询语句

cursorA=exec(connA,’select country from customers’);

% Fetch the first 10 rows of data.

%获取前十行数据

cursorA=fetch(cursorA,10)

% Display the data.

%显示

AA=cursorA.Data

% Close the cursor and the connection.

%关闭

close(cursorA)

close(connA)

二、通过DAO访问数据库(DAO技术适合于访问ACCESS 2023以下版本的数据库,优点是功

齐全,具体可以参考MSDN关于DAO的帮助),以下是我自己摸索出来的,在MATLAB帮助文

中有关于如何调用EXCEL组件的方法。

Handle=actxserver(‘DAO.DBEngine.36’);

MyWSS=get(Handle,’Workspaces’)

Count=get(MyWSS,’Count’)

MyWS=get(MyWSS,’Item’,0)

%打开数据库

MyDB=invoke(MyWS,’OpenDatabase’,’D:\My Documents\test.mdb’)

%打开数据库的表,得到一个指向记录集的指针

MyRS=invoke(MyDB,’OpenRecordset’,’用户’)

%获取“用户”表的前十行数据

MyRows=invoke(MyRS,’GetRows’,’10’)

%关闭

invoke(MyRS,’Close’)

invoke(MyDB,’Close’)

invoke(MyWS,’Close’)

三、ADO技术(微软建议ACCESS 2023及以上版本的数据库应尽量通过ADO访问,优点是可

通过较少的对象访问数据库,ADO与今后微软的数据库技术发展方向一致,目前支持的功

稍微少了一些)具体访问的可以参考MSDN的帮助文件和ADO 类型库的方法原型。

四、通过dde进行动态数据交换,可以查看help

这是我帮你找来的。不知道对不对。找了很久的!

首先要安装mysql驱动程序包

Step 1: 将mysql-connector-java-5.1.7-bin.jar文件拷贝到……\MATLAB\R2023a\java\jar\toolbox

Step 2: 到……\MATLAB\R2023a\toolbox\local目录下,找到classpath.txt文件,打开,并添加用来加载mysql的jdbc驱动语句:

$matlabroot/java/jar/toolbox/mysql-connector-java-5.1.7-bin.jar

Step 3:重新打开MATLAB即可

驱动程序安装成功后,接来下要是matlab连接mysql数据库的代码:

conn =database(‘databasename’,’username’,’password’,’driver’,’databaseurl’)

连接成功后,返回连接对象。

参数如下:

*databasename: 数据库名称.

*driver: JDBC driver.

*username and password: 用户名和密码.

*databaseurl: 类似于jdbc:subprotocol:subname. subprotocol 是数据库类型,

subname 类似于//hostname:port/databasename.

如果matlab和数据库建立了连接,将返回类似于如下信息:

Instance: ‘SampleDB’

UserName: ”

Driver:

URL:

Constructor:

Message:

Handle:

TimeOut: 0

AutoCommit: ‘off’

Type: ‘Database Object’

连接mysql的代码如下:

conn = database(’tissueppi’,’root’,’root’,’com.mysql.jdbc.Driver’,’jdbc:

连接成功后,就可以用exec函数执行sql语句

exec函数执行sql语句并返回一个开指针

语法如下:

curs = exec(conn,’sqlquery’)

例如:curs = exec(conn, ‘select * from customers’)

执行完查询后,还要将查询结果从开放cursor对象导入到对象curs中,该功能是用

cursor.fetch函数实现的。

语法如下:

curs = fetch(curs)

使用curs.Data来显示数据,curs.Data返回一个CELL结构,可以先把CELL结构转换成

MATRIX结构再取值:

cur =cell2mat(cur)

a=cur(1,1);

则查询结果就加到了向量a中

注意:

在exec函数执行查询过程中,有的sql语句要输入变量,这时可使用strcat函数完成该

功能。

t = strcat(s1, s2, s3, …)

for(t=1:10)

sql1 = strcat(‘select count(did) from rss_genepairs_u where gocc>=’,num2str(t),’ || gomf >= ‘,num2str(t),’ || gobp >= ‘,num2str(t));

end

完整代码如下:

conn = database(’tissueppi’,’root’,’root’,’com.mysql.jdbc.Driver’,’jdbc:

for t=0.5:0.01:0.91

for x=0.5:0.1:11

sql = strcat(‘select count(did) from rss_genepairs_x2 where score =’,num2str(t),’ || gomf >= ‘,num2str(t),’ || gobp >= ‘,num2str(t),’)’);

aTemp = exec(conn,sql);

aTemp = fetch(aTemp);

a = aTemp.Data;

a = cell2mat(a);

a= a(1,1);

end

end

matlab 与数据库的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于matlab 与数据库,探究Matlab如何与数据库结合实现高效数据处理,Matlab和Mysql数据连接问题。的信息别忘了在本站进行查找喔。


数据运维技术 » 探究Matlab如何与数据库结合实现高效数据处理 (matlab 与数据库)