背景

最近再做一個(gè)需求，就是對(duì)站點(diǎn)的一些事件進(jìn)行埋點(diǎn)，說白了就是記錄用戶的訪問行為。那么這些數(shù)據(jù)怎么保存呢，人家點(diǎn)一下保存一下？顯然不合適，肯定是需要批量保存，提高效率。

問題窺探

首先，我想到的是Dictionary，對(duì)于C#中的Dictionary類相信大家都不陌生，這是一個(gè)Collection(集合)類型，可以通過Key/Value(鍵值對(duì)的形式來存放數(shù)據(jù)；該類最大的優(yōu)點(diǎn)就是它查找元素的時(shí)間復(fù)雜度接近O(1)，實(shí)際項(xiàng)目中常被用來做一些數(shù)據(jù)的本地緩存，提升整體效率。Dictionary是非線程安全的類型，可以實(shí)現(xiàn)先添加到內(nèi)存當(dāng)中，在批量保存進(jìn)去數(shù)據(jù)庫。

主要代碼實(shí)現(xiàn)

1、定義一個(gè)Dictionary。

private readonly Dictionary<string, Tuple<ObjectInfo, object>> _storage = new Dictionary<string, Tuple<ObjectInfo, object>>(StringComparer.OrdinalIgnoreCase);

2、添加元素，操作的時(shí)候需要對(duì)其進(jìn)行線程安全處理，最簡(jiǎn)單的方式就是加鎖(lock)。

public bool SaveObject<T>(string path, T value) where T : class {if (String.IsNullOrWhiteSpace(path))throw new ArgumentNullException("path");lock (_lock) {_storage[path] = Tuple.Create(new ObjectInfo {Created = DateTime.Now,Modified = DateTime.Now,Path = path}, (object)value);if (_storage.Count > MaxObjects)_storage.Remove(_storage.OrderByDescending(kvp => kvp.Value.Item1.Created).First().Key);}return true;}

3、定義一個(gè)隊(duì)列，定時(shí)消費(fèi)日志。

public DefaultEventQueue(ExceptionlessConfiguration config, IExceptionlessLog log, ISubmissionClient client, IObjectStorage objectStorage, IJsonSerializer serializer, TimeSpan? processQueueInterval, TimeSpan? queueStartDelay) {_log = log;_config = config;_client = client;_storage = objectStorage;_serializer = serializer;if (processQueueInterval.HasValue)_processQueueInterval = processQueueInterval.Value;_queueTimer = new Timer(OnProcessQueue, null, queueStartDelay ?? TimeSpan.FromSeconds(2), _processQueueInterval);}

這里刪除的時(shí)候也需要lock 操作。

public bool DeleteObject(string path) {if (String.IsNullOrWhiteSpace(path))throw new ArgumentNullException("path");lock (_lock) {if (!_storage.ContainsKey(path))return false;_storage.Remove(path);}return true;} public IEnumerable<ObjectInfo> GetObjectList(string searchPattern = null, int? limit = null, DateTime? maxCreatedDate = null) {if (searchPattern == null)searchPattern = "*";if (!maxCreatedDate.HasValue)maxCreatedDate = DateTime.MaxValue;var regex = new Regex("^" + Regex.Escape(searchPattern).Replace("\\*", ".*?") + "$");lock (_lock)return _storage.Keys.Where(k => regex.IsMatch(k)).Select(k => _storage[k].Item1).Where(f => f.Created <= maxCreatedDate).Take(limit ?? Int32.MaxValue).ToList();}

總結(jié)

1、利用Dictionary。多線程添加數(shù)據(jù)到內(nèi)存；

2、達(dá)到一定量的時(shí)候，批量保存數(shù)據(jù)。

3、使用lock ，保證Dictionary操作安全。

總結(jié)

以上是生活随笔為你收集整理的巧用Dictionary实现日志数据批量插入的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。