PHP查詢MySQL大量數據的內存占用分析
分析在PHP中查詢MySQL返回大量結果時, 內存占用的問題, 由于MySQL查詢返回的結果太多, 從而導致PHP內存不夠用. 所以, 在執行下面的代碼遍歷返回的MySQL結果之前, 數據是否已經在內存中了?
while ($row = mysql_fetch_assoc($result)) { // ... } |
當然, 這種問題有許多優化的方法. 不過, 就這個問題來講, 我首先想到, MySQL是經典的C/S(Client/Server, 客戶端/服務器)模型, 在遍歷結果集之前, 底層的實現可能已經把所有的數據通過網絡(假設使用TCP/IP)讀到了Client的緩沖區, 也有另一種可能, 就是數據還在Server端的發送緩沖區里, 并沒有傳給Client.
在查看PHP和MySQL的源碼之前, 我注意到PHP手冊里有兩個功能相近的函數:
mysql_query() mysql_unbuffered_query() |
兩個函數的字面意思和說明證實了我的想法, 前一個函數執行時, 會把所有的結果集從Server端讀到Client端的緩沖區中, 而后一個則沒有, 這就是”unbuffered(未緩沖)”的意思.
那就是說, 如果用mysql_unbuffered_query()執行了一條返回大量結果集的SQL語句, 在遍歷結果之前, PHP的內存是沒有被結果集占用的. 而用mysql_query()來執行同樣的語句的話, 函數返回時, PHP的內存占用便會急劇增加, 立即耗光內存.
如果閱讀PHP的相關代碼, 可以看到這兩個函數的實現上的異同:
/* {{{ proto resource mysql_query(string query [, int link_identifier]) Sends an SQL query to MySQL */ PHP_FUNCTION(mysql_query) { php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT); } /* }}} */ /* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier]) Sends an SQL query to MySQL, without fetching and buffering the result rows */ PHP_FUNCTION(mysql_unbuffered_query) { php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT); } /* }}} */ |
兩個函數都調用了php_mysql_do_query(), 只差了第2個參數的不同, MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的實現:
if(use_store == MYSQL_USE_RESULT) { mysql_result=mysql_use_result(&mysql->conn); } else { mysql_result=mysql_store_result(&mysql->conn); } |
mysql_use_result()和mysql_store_result()是MySQL的C API函數, 這兩個C API函數的區別就是后者把結果集從MySQL Server端全部讀取到了Client端, 前者只是讀取了結果集的元信息.
回到PHP, 使用mysql_unbuffered_query(), 可以避免內存的立即占用. 如果在遍歷的過程不對結果進行”PHP緩存”(如放到某數組中), 則整個執行過程雖然操作了十萬條或者百萬條或者更多的數據, 但PHP占用的內存始終是非常小的。
關鍵字:MySQL、PHP、服務器
新文章:
- CentOS7下圖形配置網絡的方法
- CentOS 7如何添加刪除用戶
- 如何解決centos7雙系統后丟失windows啟動項
- CentOS單網卡如何批量添加不同IP段
- CentOS下iconv命令的介紹
- Centos7 SSH密鑰登陸及密碼密鑰雙重驗證詳解
- CentOS 7.1添加刪除用戶的方法
- CentOS查找/掃描局域網打印機IP講解
- CentOS7使用hostapd實現無AP模式的詳解
- su命令不能切換root的解決方法
- 解決VMware下CentOS7網絡重啟出錯
- 解決Centos7雙系統后丟失windows啟動項
- CentOS下如何避免文件覆蓋
- CentOS7和CentOS6系統有什么不同呢
- Centos 6.6默認iptable規則詳解