]> Git Repo - VerusCoin.git/blob - src/main.cpp
Auto merge of #2177 - str4d:2061-tor-ephemeral-hs, r=daira
[VerusCoin.git] / src / main.cpp
1 // Copyright (c) 2009-2010 Satoshi Nakamoto
2 // Copyright (c) 2009-2014 The Bitcoin Core developers
3 // Distributed under the MIT software license, see the accompanying
4 // file COPYING or http://www.opensource.org/licenses/mit-license.php.
5
6 #include "main.h"
7
8 #include "sodium.h"
9
10 #include "addrman.h"
11 #include "alert.h"
12 #include "arith_uint256.h"
13 #include "chainparams.h"
14 #include "checkpoints.h"
15 #include "checkqueue.h"
16 #include "consensus/validation.h"
17 #include "init.h"
18 #include "merkleblock.h"
19 #include "metrics.h"
20 #include "net.h"
21 #include "pow.h"
22 #include "txdb.h"
23 #include "txmempool.h"
24 #include "ui_interface.h"
25 #include "undo.h"
26 #include "util.h"
27 #include "utilmoneystr.h"
28 #include "validationinterface.h"
29 #include "wallet/asyncrpcoperation_sendmany.h"
30
31 #include <sstream>
32
33 #include <boost/algorithm/string/replace.hpp>
34 #include <boost/filesystem.hpp>
35 #include <boost/filesystem/fstream.hpp>
36 #include <boost/math/distributions/poisson.hpp>
37 #include <boost/thread.hpp>
38 #include <boost/static_assert.hpp>
39
40 using namespace std;
41
42 #if defined(NDEBUG)
43 # error "Zcash cannot be compiled without assertions."
44 #endif
45
46 /**
47  * Global state
48  */
49
50 CCriticalSection cs_main;
51
52 BlockMap mapBlockIndex;
53 CChain chainActive;
54 CBlockIndex *pindexBestHeader = NULL;
55 int64_t nTimeBestReceived = 0;
56 CWaitableCriticalSection csBestBlock;
57 CConditionVariable cvBlockChange;
58 int nScriptCheckThreads = 0;
59 bool fExperimentalMode = false;
60 bool fImporting = false;
61 bool fReindex = false;
62 bool fTxIndex = false;
63 bool fHavePruned = false;
64 bool fPruneMode = false;
65 bool fIsBareMultisigStd = true;
66 bool fCheckBlockIndex = false;
67 bool fCheckpointsEnabled = true;
68 bool fCoinbaseEnforcedProtectionEnabled = true;
69 size_t nCoinCacheUsage = 5000 * 300;
70 uint64_t nPruneTarget = 0;
71 bool fAlerts = DEFAULT_ALERTS;
72
73 /** Fees smaller than this (in satoshi) are considered zero fee (for relaying and mining) */
74 CFeeRate minRelayTxFee = CFeeRate(DEFAULT_MIN_RELAY_TX_FEE);
75
76 CTxMemPool mempool(::minRelayTxFee);
77
78 struct COrphanTx {
79     CTransaction tx;
80     NodeId fromPeer;
81 };
82 map<uint256, COrphanTx> mapOrphanTransactions GUARDED_BY(cs_main);;
83 map<uint256, set<uint256> > mapOrphanTransactionsByPrev GUARDED_BY(cs_main);;
84 void EraseOrphansFor(NodeId peer) EXCLUSIVE_LOCKS_REQUIRED(cs_main);
85
86 /**
87  * Returns true if there are nRequired or more blocks of minVersion or above
88  * in the last Consensus::Params::nMajorityWindow blocks, starting at pstart and going backwards.
89  */
90 static bool IsSuperMajority(int minVersion, const CBlockIndex* pstart, unsigned nRequired, const Consensus::Params& consensusParams);
91 static void CheckBlockIndex();
92
93 /** Constant stuff for coinbase transactions we create: */
94 CScript COINBASE_FLAGS;
95
96 const string strMessageMagic = "Zcash Signed Message:\n";
97
98 // Internal stuff
99 namespace {
100
101     struct CBlockIndexWorkComparator
102     {
103         bool operator()(CBlockIndex *pa, CBlockIndex *pb) const {
104             // First sort by most total work, ...
105             if (pa->nChainWork > pb->nChainWork) return false;
106             if (pa->nChainWork < pb->nChainWork) return true;
107
108             // ... then by earliest time received, ...
109             if (pa->nSequenceId < pb->nSequenceId) return false;
110             if (pa->nSequenceId > pb->nSequenceId) return true;
111
112             // Use pointer address as tie breaker (should only happen with blocks
113             // loaded from disk, as those all have id 0).
114             if (pa < pb) return false;
115             if (pa > pb) return true;
116
117             // Identical blocks.
118             return false;
119         }
120     };
121
122     CBlockIndex *pindexBestInvalid;
123
124     /**
125      * The set of all CBlockIndex entries with BLOCK_VALID_TRANSACTIONS (for itself and all ancestors) and
126      * as good as our current tip or better. Entries may be failed, though, and pruning nodes may be
127      * missing the data for the block.
128      */
129     set<CBlockIndex*, CBlockIndexWorkComparator> setBlockIndexCandidates;
130     /** Number of nodes with fSyncStarted. */
131     int nSyncStarted = 0;
132     /** All pairs A->B, where A (or one if its ancestors) misses transactions, but B has transactions.
133       * Pruned nodes may have entries where B is missing data.
134       */
135     multimap<CBlockIndex*, CBlockIndex*> mapBlocksUnlinked;
136
137     CCriticalSection cs_LastBlockFile;
138     std::vector<CBlockFileInfo> vinfoBlockFile;
139     int nLastBlockFile = 0;
140     /** Global flag to indicate we should check to see if there are
141      *  block/undo files that should be deleted.  Set on startup
142      *  or if we allocate more file space when we're in prune mode
143      */
144     bool fCheckForPruning = false;
145
146     /**
147      * Every received block is assigned a unique and increasing identifier, so we
148      * know which one to give priority in case of a fork.
149      */
150     CCriticalSection cs_nBlockSequenceId;
151     /** Blocks loaded from disk are assigned id 0, so start the counter at 1. */
152     uint32_t nBlockSequenceId = 1;
153
154     /**
155      * Sources of received blocks, saved to be able to send them reject
156      * messages or ban them when processing happens afterwards. Protected by
157      * cs_main.
158      */
159     map<uint256, NodeId> mapBlockSource;
160
161     /**
162      * Filter for transactions that were recently rejected by
163      * AcceptToMemoryPool. These are not rerequested until the chain tip
164      * changes, at which point the entire filter is reset. Protected by
165      * cs_main.
166      *
167      * Without this filter we'd be re-requesting txs from each of our peers,
168      * increasing bandwidth consumption considerably. For instance, with 100
169      * peers, half of which relay a tx we don't accept, that might be a 50x
170      * bandwidth increase. A flooding attacker attempting to roll-over the
171      * filter using minimum-sized, 60byte, transactions might manage to send
172      * 1000/sec if we have fast peers, so we pick 120,000 to give our peers a
173      * two minute window to send invs to us.
174      *
175      * Decreasing the false positive rate is fairly cheap, so we pick one in a
176      * million to make it highly unlikely for users to have issues with this
177      * filter.
178      *
179      * Memory used: 1.7MB
180      */
181     boost::scoped_ptr<CRollingBloomFilter> recentRejects;
182     uint256 hashRecentRejectsChainTip;
183
184     /** Blocks that are in flight, and that are in the queue to be downloaded. Protected by cs_main. */
185     struct QueuedBlock {
186         uint256 hash;
187         CBlockIndex *pindex;  //! Optional.
188         int64_t nTime;  //! Time of "getdata" request in microseconds.
189         bool fValidatedHeaders;  //! Whether this block has validated headers at the time of request.
190         int64_t nTimeDisconnect; //! The timeout for this block request (for disconnecting a slow peer)
191     };
192     map<uint256, pair<NodeId, list<QueuedBlock>::iterator> > mapBlocksInFlight;
193
194     /** Number of blocks in flight with validated headers. */
195     int nQueuedValidatedHeaders = 0;
196
197     /** Number of preferable block download peers. */
198     int nPreferredDownload = 0;
199
200     /** Dirty block index entries. */
201     set<CBlockIndex*> setDirtyBlockIndex;
202
203     /** Dirty block file entries. */
204     set<int> setDirtyFileInfo;
205 } // anon namespace
206
207 //////////////////////////////////////////////////////////////////////////////
208 //
209 // Registration of network node signals.
210 //
211
212 namespace {
213
214 struct CBlockReject {
215     unsigned char chRejectCode;
216     string strRejectReason;
217     uint256 hashBlock;
218 };
219
220 /**
221  * Maintain validation-specific state about nodes, protected by cs_main, instead
222  * by CNode's own locks. This simplifies asynchronous operation, where
223  * processing of incoming data is done after the ProcessMessage call returns,
224  * and we're no longer holding the node's locks.
225  */
226 struct CNodeState {
227     //! The peer's address
228     CService address;
229     //! Whether we have a fully established connection.
230     bool fCurrentlyConnected;
231     //! Accumulated misbehaviour score for this peer.
232     int nMisbehavior;
233     //! Whether this peer should be disconnected and banned (unless whitelisted).
234     bool fShouldBan;
235     //! String name of this peer (debugging/logging purposes).
236     std::string name;
237     //! List of asynchronously-determined block rejections to notify this peer about.
238     std::vector<CBlockReject> rejects;
239     //! The best known block we know this peer has announced.
240     CBlockIndex *pindexBestKnownBlock;
241     //! The hash of the last unknown block this peer has announced.
242     uint256 hashLastUnknownBlock;
243     //! The last full block we both have.
244     CBlockIndex *pindexLastCommonBlock;
245     //! Whether we've started headers synchronization with this peer.
246     bool fSyncStarted;
247     //! Since when we're stalling block download progress (in microseconds), or 0.
248     int64_t nStallingSince;
249     list<QueuedBlock> vBlocksInFlight;
250     int nBlocksInFlight;
251     int nBlocksInFlightValidHeaders;
252     //! Whether we consider this a preferred download peer.
253     bool fPreferredDownload;
254
255     CNodeState() {
256         fCurrentlyConnected = false;
257         nMisbehavior = 0;
258         fShouldBan = false;
259         pindexBestKnownBlock = NULL;
260         hashLastUnknownBlock.SetNull();
261         pindexLastCommonBlock = NULL;
262         fSyncStarted = false;
263         nStallingSince = 0;
264         nBlocksInFlight = 0;
265         nBlocksInFlightValidHeaders = 0;
266         fPreferredDownload = false;
267     }
268 };
269
270 /** Map maintaining per-node state. Requires cs_main. */
271 map<NodeId, CNodeState> mapNodeState;
272
273 // Requires cs_main.
274 CNodeState *State(NodeId pnode) {
275     map<NodeId, CNodeState>::iterator it = mapNodeState.find(pnode);
276     if (it == mapNodeState.end())
277         return NULL;
278     return &it->second;
279 }
280
281 int GetHeight()
282 {
283     LOCK(cs_main);
284     return chainActive.Height();
285 }
286
287 void UpdatePreferredDownload(CNode* node, CNodeState* state)
288 {
289     nPreferredDownload -= state->fPreferredDownload;
290
291     // Whether this node should be marked as a preferred download node.
292     state->fPreferredDownload = (!node->fInbound || node->fWhitelisted) && !node->fOneShot && !node->fClient;
293
294     nPreferredDownload += state->fPreferredDownload;
295 }
296
297 // Returns time at which to timeout block request (nTime in microseconds)
298 int64_t GetBlockTimeout(int64_t nTime, int nValidatedQueuedBefore, const Consensus::Params &consensusParams)
299 {
300     return nTime + 500000 * consensusParams.nPowTargetSpacing * (4 + nValidatedQueuedBefore);
301 }
302
303 void InitializeNode(NodeId nodeid, const CNode *pnode) {
304     LOCK(cs_main);
305     CNodeState &state = mapNodeState.insert(std::make_pair(nodeid, CNodeState())).first->second;
306     state.name = pnode->addrName;
307     state.address = pnode->addr;
308 }
309
310 void FinalizeNode(NodeId nodeid) {
311     LOCK(cs_main);
312     CNodeState *state = State(nodeid);
313
314     if (state->fSyncStarted)
315         nSyncStarted--;
316
317     if (state->nMisbehavior == 0 && state->fCurrentlyConnected) {
318         AddressCurrentlyConnected(state->address);
319     }
320
321     BOOST_FOREACH(const QueuedBlock& entry, state->vBlocksInFlight)
322         mapBlocksInFlight.erase(entry.hash);
323     EraseOrphansFor(nodeid);
324     nPreferredDownload -= state->fPreferredDownload;
325
326     mapNodeState.erase(nodeid);
327 }
328
329 // Requires cs_main.
330 // Returns a bool indicating whether we requested this block.
331 bool MarkBlockAsReceived(const uint256& hash) {
332     map<uint256, pair<NodeId, list<QueuedBlock>::iterator> >::iterator itInFlight = mapBlocksInFlight.find(hash);
333     if (itInFlight != mapBlocksInFlight.end()) {
334         CNodeState *state = State(itInFlight->second.first);
335         nQueuedValidatedHeaders -= itInFlight->second.second->fValidatedHeaders;
336         state->nBlocksInFlightValidHeaders -= itInFlight->second.second->fValidatedHeaders;
337         state->vBlocksInFlight.erase(itInFlight->second.second);
338         state->nBlocksInFlight--;
339         state->nStallingSince = 0;
340         mapBlocksInFlight.erase(itInFlight);
341         return true;
342     }
343     return false;
344 }
345
346 // Requires cs_main.
347 void MarkBlockAsInFlight(NodeId nodeid, const uint256& hash, const Consensus::Params& consensusParams, CBlockIndex *pindex = NULL) {
348     CNodeState *state = State(nodeid);
349     assert(state != NULL);
350
351     // Make sure it's not listed somewhere already.
352     MarkBlockAsReceived(hash);
353
354     int64_t nNow = GetTimeMicros();
355     QueuedBlock newentry = {hash, pindex, nNow, pindex != NULL, GetBlockTimeout(nNow, nQueuedValidatedHeaders, consensusParams)};
356     nQueuedValidatedHeaders += newentry.fValidatedHeaders;
357     list<QueuedBlock>::iterator it = state->vBlocksInFlight.insert(state->vBlocksInFlight.end(), newentry);
358     state->nBlocksInFlight++;
359     state->nBlocksInFlightValidHeaders += newentry.fValidatedHeaders;
360     mapBlocksInFlight[hash] = std::make_pair(nodeid, it);
361 }
362
363 /** Check whether the last unknown block a peer advertized is not yet known. */
364 void ProcessBlockAvailability(NodeId nodeid) {
365     CNodeState *state = State(nodeid);
366     assert(state != NULL);
367
368     if (!state->hashLastUnknownBlock.IsNull()) {
369         BlockMap::iterator itOld = mapBlockIndex.find(state->hashLastUnknownBlock);
370         if (itOld != mapBlockIndex.end() && itOld->second->nChainWork > 0) {
371             if (state->pindexBestKnownBlock == NULL || itOld->second->nChainWork >= state->pindexBestKnownBlock->nChainWork)
372                 state->pindexBestKnownBlock = itOld->second;
373             state->hashLastUnknownBlock.SetNull();
374         }
375     }
376 }
377
378 /** Update tracking information about which blocks a peer is assumed to have. */
379 void UpdateBlockAvailability(NodeId nodeid, const uint256 &hash) {
380     CNodeState *state = State(nodeid);
381     assert(state != NULL);
382
383     ProcessBlockAvailability(nodeid);
384
385     BlockMap::iterator it = mapBlockIndex.find(hash);
386     if (it != mapBlockIndex.end() && it->second->nChainWork > 0) {
387         // An actually better block was announced.
388         if (state->pindexBestKnownBlock == NULL || it->second->nChainWork >= state->pindexBestKnownBlock->nChainWork)
389             state->pindexBestKnownBlock = it->second;
390     } else {
391         // An unknown block was announced; just assume that the latest one is the best one.
392         state->hashLastUnknownBlock = hash;
393     }
394 }
395
396 /** Find the last common ancestor two blocks have.
397  *  Both pa and pb must be non-NULL. */
398 CBlockIndex* LastCommonAncestor(CBlockIndex* pa, CBlockIndex* pb) {
399     if (pa->nHeight > pb->nHeight) {
400         pa = pa->GetAncestor(pb->nHeight);
401     } else if (pb->nHeight > pa->nHeight) {
402         pb = pb->GetAncestor(pa->nHeight);
403     }
404
405     while (pa != pb && pa && pb) {
406         pa = pa->pprev;
407         pb = pb->pprev;
408     }
409
410     // Eventually all chain branches meet at the genesis block.
411     assert(pa == pb);
412     return pa;
413 }
414
415 /** Update pindexLastCommonBlock and add not-in-flight missing successors to vBlocks, until it has
416  *  at most count entries. */
417 void FindNextBlocksToDownload(NodeId nodeid, unsigned int count, std::vector<CBlockIndex*>& vBlocks, NodeId& nodeStaller) {
418     if (count == 0)
419         return;
420
421     vBlocks.reserve(vBlocks.size() + count);
422     CNodeState *state = State(nodeid);
423     assert(state != NULL);
424
425     // Make sure pindexBestKnownBlock is up to date, we'll need it.
426     ProcessBlockAvailability(nodeid);
427
428     if (state->pindexBestKnownBlock == NULL || state->pindexBestKnownBlock->nChainWork < chainActive.Tip()->nChainWork) {
429         // This peer has nothing interesting.
430         return;
431     }
432
433     if (state->pindexLastCommonBlock == NULL) {
434         // Bootstrap quickly by guessing a parent of our best tip is the forking point.
435         // Guessing wrong in either direction is not a problem.
436         state->pindexLastCommonBlock = chainActive[std::min(state->pindexBestKnownBlock->nHeight, chainActive.Height())];
437     }
438
439     // If the peer reorganized, our previous pindexLastCommonBlock may not be an ancestor
440     // of its current tip anymore. Go back enough to fix that.
441     state->pindexLastCommonBlock = LastCommonAncestor(state->pindexLastCommonBlock, state->pindexBestKnownBlock);
442     if (state->pindexLastCommonBlock == state->pindexBestKnownBlock)
443         return;
444
445     std::vector<CBlockIndex*> vToFetch;
446     CBlockIndex *pindexWalk = state->pindexLastCommonBlock;
447     // Never fetch further than the best block we know the peer has, or more than BLOCK_DOWNLOAD_WINDOW + 1 beyond the last
448     // linked block we have in common with this peer. The +1 is so we can detect stalling, namely if we would be able to
449     // download that next block if the window were 1 larger.
450     int nWindowEnd = state->pindexLastCommonBlock->nHeight + BLOCK_DOWNLOAD_WINDOW;
451     int nMaxHeight = std::min<int>(state->pindexBestKnownBlock->nHeight, nWindowEnd + 1);
452     NodeId waitingfor = -1;
453     while (pindexWalk->nHeight < nMaxHeight) {
454         // Read up to 128 (or more, if more blocks than that are needed) successors of pindexWalk (towards
455         // pindexBestKnownBlock) into vToFetch. We fetch 128, because CBlockIndex::GetAncestor may be as expensive
456         // as iterating over ~100 CBlockIndex* entries anyway.
457         int nToFetch = std::min(nMaxHeight - pindexWalk->nHeight, std::max<int>(count - vBlocks.size(), 128));
458         vToFetch.resize(nToFetch);
459         pindexWalk = state->pindexBestKnownBlock->GetAncestor(pindexWalk->nHeight + nToFetch);
460         vToFetch[nToFetch - 1] = pindexWalk;
461         for (unsigned int i = nToFetch - 1; i > 0; i--) {
462             vToFetch[i - 1] = vToFetch[i]->pprev;
463         }
464
465         // Iterate over those blocks in vToFetch (in forward direction), adding the ones that
466         // are not yet downloaded and not in flight to vBlocks. In the mean time, update
467         // pindexLastCommonBlock as long as all ancestors are already downloaded, or if it's
468         // already part of our chain (and therefore don't need it even if pruned).
469         BOOST_FOREACH(CBlockIndex* pindex, vToFetch) {
470             if (!pindex->IsValid(BLOCK_VALID_TREE)) {
471                 // We consider the chain that this peer is on invalid.
472                 return;
473             }
474             if (pindex->nStatus & BLOCK_HAVE_DATA || chainActive.Contains(pindex)) {
475                 if (pindex->nChainTx)
476                     state->pindexLastCommonBlock = pindex;
477             } else if (mapBlocksInFlight.count(pindex->GetBlockHash()) == 0) {
478                 // The block is not already downloaded, and not yet in flight.
479                 if (pindex->nHeight > nWindowEnd) {
480                     // We reached the end of the window.
481                     if (vBlocks.size() == 0 && waitingfor != nodeid) {
482                         // We aren't able to fetch anything, but we would be if the download window was one larger.
483                         nodeStaller = waitingfor;
484                     }
485                     return;
486                 }
487                 vBlocks.push_back(pindex);
488                 if (vBlocks.size() == count) {
489                     return;
490                 }
491             } else if (waitingfor == -1) {
492                 // This is the first already-in-flight block.
493                 waitingfor = mapBlocksInFlight[pindex->GetBlockHash()].first;
494             }
495         }
496     }
497 }
498
499 } // anon namespace
500
501 bool GetNodeStateStats(NodeId nodeid, CNodeStateStats &stats) {
502     LOCK(cs_main);
503     CNodeState *state = State(nodeid);
504     if (state == NULL)
505         return false;
506     stats.nMisbehavior = state->nMisbehavior;
507     stats.nSyncHeight = state->pindexBestKnownBlock ? state->pindexBestKnownBlock->nHeight : -1;
508     stats.nCommonHeight = state->pindexLastCommonBlock ? state->pindexLastCommonBlock->nHeight : -1;
509     BOOST_FOREACH(const QueuedBlock& queue, state->vBlocksInFlight) {
510         if (queue.pindex)
511             stats.vHeightInFlight.push_back(queue.pindex->nHeight);
512     }
513     return true;
514 }
515
516 void RegisterNodeSignals(CNodeSignals& nodeSignals)
517 {
518     nodeSignals.GetHeight.connect(&GetHeight);
519     nodeSignals.ProcessMessages.connect(&ProcessMessages);
520     nodeSignals.SendMessages.connect(&SendMessages);
521     nodeSignals.InitializeNode.connect(&InitializeNode);
522     nodeSignals.FinalizeNode.connect(&FinalizeNode);
523 }
524
525 void UnregisterNodeSignals(CNodeSignals& nodeSignals)
526 {
527     nodeSignals.GetHeight.disconnect(&GetHeight);
528     nodeSignals.ProcessMessages.disconnect(&ProcessMessages);
529     nodeSignals.SendMessages.disconnect(&SendMessages);
530     nodeSignals.InitializeNode.disconnect(&InitializeNode);
531     nodeSignals.FinalizeNode.disconnect(&FinalizeNode);
532 }
533
534 CBlockIndex* FindForkInGlobalIndex(const CChain& chain, const CBlockLocator& locator)
535 {
536     // Find the first block the caller has in the main chain
537     BOOST_FOREACH(const uint256& hash, locator.vHave) {
538         BlockMap::iterator mi = mapBlockIndex.find(hash);
539         if (mi != mapBlockIndex.end())
540         {
541             CBlockIndex* pindex = (*mi).second;
542             if (chain.Contains(pindex))
543                 return pindex;
544         }
545     }
546     return chain.Genesis();
547 }
548
549 CCoinsViewCache *pcoinsTip = NULL;
550 CBlockTreeDB *pblocktree = NULL;
551
552 //////////////////////////////////////////////////////////////////////////////
553 //
554 // mapOrphanTransactions
555 //
556
557 bool AddOrphanTx(const CTransaction& tx, NodeId peer) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
558 {
559     uint256 hash = tx.GetHash();
560     if (mapOrphanTransactions.count(hash))
561         return false;
562
563     // Ignore big transactions, to avoid a
564     // send-big-orphans memory exhaustion attack. If a peer has a legitimate
565     // large transaction with a missing parent then we assume
566     // it will rebroadcast it later, after the parent transaction(s)
567     // have been mined or received.
568     // 10,000 orphans, each of which is at most 5,000 bytes big is
569     // at most 500 megabytes of orphans:
570     unsigned int sz = tx.GetSerializeSize(SER_NETWORK, tx.nVersion);
571     if (sz > 5000)
572     {
573         LogPrint("mempool", "ignoring large orphan tx (size: %u, hash: %s)\n", sz, hash.ToString());
574         return false;
575     }
576
577     mapOrphanTransactions[hash].tx = tx;
578     mapOrphanTransactions[hash].fromPeer = peer;
579     BOOST_FOREACH(const CTxIn& txin, tx.vin)
580         mapOrphanTransactionsByPrev[txin.prevout.hash].insert(hash);
581
582     LogPrint("mempool", "stored orphan tx %s (mapsz %u prevsz %u)\n", hash.ToString(),
583              mapOrphanTransactions.size(), mapOrphanTransactionsByPrev.size());
584     return true;
585 }
586
587 void static EraseOrphanTx(uint256 hash) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
588 {
589     map<uint256, COrphanTx>::iterator it = mapOrphanTransactions.find(hash);
590     if (it == mapOrphanTransactions.end())
591         return;
592     BOOST_FOREACH(const CTxIn& txin, it->second.tx.vin)
593     {
594         map<uint256, set<uint256> >::iterator itPrev = mapOrphanTransactionsByPrev.find(txin.prevout.hash);
595         if (itPrev == mapOrphanTransactionsByPrev.end())
596             continue;
597         itPrev->second.erase(hash);
598         if (itPrev->second.empty())
599             mapOrphanTransactionsByPrev.erase(itPrev);
600     }
601     mapOrphanTransactions.erase(it);
602 }
603
604 void EraseOrphansFor(NodeId peer)
605 {
606     int nErased = 0;
607     map<uint256, COrphanTx>::iterator iter = mapOrphanTransactions.begin();
608     while (iter != mapOrphanTransactions.end())
609     {
610         map<uint256, COrphanTx>::iterator maybeErase = iter++; // increment to avoid iterator becoming invalid
611         if (maybeErase->second.fromPeer == peer)
612         {
613             EraseOrphanTx(maybeErase->second.tx.GetHash());
614             ++nErased;
615         }
616     }
617     if (nErased > 0) LogPrint("mempool", "Erased %d orphan tx from peer %d\n", nErased, peer);
618 }
619
620
621 unsigned int LimitOrphanTxSize(unsigned int nMaxOrphans) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
622 {
623     unsigned int nEvicted = 0;
624     while (mapOrphanTransactions.size() > nMaxOrphans)
625     {
626         // Evict a random orphan:
627         uint256 randomhash = GetRandHash();
628         map<uint256, COrphanTx>::iterator it = mapOrphanTransactions.lower_bound(randomhash);
629         if (it == mapOrphanTransactions.end())
630             it = mapOrphanTransactions.begin();
631         EraseOrphanTx(it->first);
632         ++nEvicted;
633     }
634     return nEvicted;
635 }
636
637
638
639
640
641
642
643 bool IsStandardTx(const CTransaction& tx, string& reason)
644 {
645     if (tx.nVersion > CTransaction::MAX_CURRENT_VERSION || tx.nVersion < CTransaction::MIN_CURRENT_VERSION) {
646         reason = "version";
647         return false;
648     }
649
650     BOOST_FOREACH(const CTxIn& txin, tx.vin)
651     {
652         // Biggest 'standard' txin is a 15-of-15 P2SH multisig with compressed
653         // keys. (remember the 520 byte limit on redeemScript size) That works
654         // out to a (15*(33+1))+3=513 byte redeemScript, 513+1+15*(73+1)+3=1627
655         // bytes of scriptSig, which we round off to 1650 bytes for some minor
656         // future-proofing. That's also enough to spend a 20-of-20
657         // CHECKMULTISIG scriptPubKey, though such a scriptPubKey is not
658         // considered standard)
659         if (txin.scriptSig.size() > 1650) {
660             reason = "scriptsig-size";
661             return false;
662         }
663         if (!txin.scriptSig.IsPushOnly()) {
664             reason = "scriptsig-not-pushonly";
665             return false;
666         }
667     }
668
669     unsigned int nDataOut = 0;
670     txnouttype whichType;
671     BOOST_FOREACH(const CTxOut& txout, tx.vout) {
672         if (!::IsStandard(txout.scriptPubKey, whichType)) {
673             reason = "scriptpubkey";
674             return false;
675         }
676
677         if (whichType == TX_NULL_DATA)
678             nDataOut++;
679         else if ((whichType == TX_MULTISIG) && (!fIsBareMultisigStd)) {
680             reason = "bare-multisig";
681             return false;
682         } else if (txout.IsDust(::minRelayTxFee)) {
683             reason = "dust";
684             return false;
685         }
686     }
687
688     // only one OP_RETURN txout is permitted
689     if (nDataOut > 1) {
690         reason = "multi-op-return";
691         return false;
692     }
693
694     return true;
695 }
696
697 bool IsFinalTx(const CTransaction &tx, int nBlockHeight, int64_t nBlockTime)
698 {
699     if (tx.nLockTime == 0)
700         return true;
701     if ((int64_t)tx.nLockTime < ((int64_t)tx.nLockTime < LOCKTIME_THRESHOLD ? (int64_t)nBlockHeight : nBlockTime))
702         return true;
703     BOOST_FOREACH(const CTxIn& txin, tx.vin)
704         if (!txin.IsFinal())
705             return false;
706     return true;
707 }
708
709 bool CheckFinalTx(const CTransaction &tx, int flags)
710 {
711     AssertLockHeld(cs_main);
712
713     // By convention a negative value for flags indicates that the
714     // current network-enforced consensus rules should be used. In
715     // a future soft-fork scenario that would mean checking which
716     // rules would be enforced for the next block and setting the
717     // appropriate flags. At the present time no soft-forks are
718     // scheduled, so no flags are set.
719     flags = std::max(flags, 0);
720
721     // CheckFinalTx() uses chainActive.Height()+1 to evaluate
722     // nLockTime because when IsFinalTx() is called within
723     // CBlock::AcceptBlock(), the height of the block *being*
724     // evaluated is what is used. Thus if we want to know if a
725     // transaction can be part of the *next* block, we need to call
726     // IsFinalTx() with one more than chainActive.Height().
727     const int nBlockHeight = chainActive.Height() + 1;
728
729     // Timestamps on the other hand don't get any special treatment,
730     // because we can't know what timestamp the next block will have,
731     // and there aren't timestamp applications where it matters.
732     // However this changes once median past time-locks are enforced:
733     const int64_t nBlockTime = (flags & LOCKTIME_MEDIAN_TIME_PAST)
734                              ? chainActive.Tip()->GetMedianTimePast()
735                              : GetAdjustedTime();
736
737     return IsFinalTx(tx, nBlockHeight, nBlockTime);
738 }
739
740 /**
741  * Check transaction inputs to mitigate two
742  * potential denial-of-service attacks:
743  *
744  * 1. scriptSigs with extra data stuffed into them,
745  *    not consumed by scriptPubKey (or P2SH script)
746  * 2. P2SH scripts with a crazy number of expensive
747  *    CHECKSIG/CHECKMULTISIG operations
748  */
749 bool AreInputsStandard(const CTransaction& tx, const CCoinsViewCache& mapInputs)
750 {
751     if (tx.IsCoinBase())
752         return true; // Coinbases don't use vin normally
753
754     for (unsigned int i = 0; i < tx.vin.size(); i++)
755     {
756         const CTxOut& prev = mapInputs.GetOutputFor(tx.vin[i]);
757
758         vector<vector<unsigned char> > vSolutions;
759         txnouttype whichType;
760         // get the scriptPubKey corresponding to this input:
761         const CScript& prevScript = prev.scriptPubKey;
762         if (!Solver(prevScript, whichType, vSolutions))
763             return false;
764         int nArgsExpected = ScriptSigArgsExpected(whichType, vSolutions);
765         if (nArgsExpected < 0)
766             return false;
767
768         // Transactions with extra stuff in their scriptSigs are
769         // non-standard. Note that this EvalScript() call will
770         // be quick, because if there are any operations
771         // beside "push data" in the scriptSig
772         // IsStandardTx() will have already returned false
773         // and this method isn't called.
774         vector<vector<unsigned char> > stack;
775         if (!EvalScript(stack, tx.vin[i].scriptSig, SCRIPT_VERIFY_NONE, BaseSignatureChecker()))
776             return false;
777
778         if (whichType == TX_SCRIPTHASH)
779         {
780             if (stack.empty())
781                 return false;
782             CScript subscript(stack.back().begin(), stack.back().end());
783             vector<vector<unsigned char> > vSolutions2;
784             txnouttype whichType2;
785             if (Solver(subscript, whichType2, vSolutions2))
786             {
787                 int tmpExpected = ScriptSigArgsExpected(whichType2, vSolutions2);
788                 if (tmpExpected < 0)
789                     return false;
790                 nArgsExpected += tmpExpected;
791             }
792             else
793             {
794                 // Any other Script with less than 15 sigops OK:
795                 unsigned int sigops = subscript.GetSigOpCount(true);
796                 // ... extra data left on the stack after execution is OK, too:
797                 return (sigops <= MAX_P2SH_SIGOPS);
798             }
799         }
800
801         if (stack.size() != (unsigned int)nArgsExpected)
802             return false;
803     }
804
805     return true;
806 }
807
808 unsigned int GetLegacySigOpCount(const CTransaction& tx)
809 {
810     unsigned int nSigOps = 0;
811     BOOST_FOREACH(const CTxIn& txin, tx.vin)
812     {
813         nSigOps += txin.scriptSig.GetSigOpCount(false);
814     }
815     BOOST_FOREACH(const CTxOut& txout, tx.vout)
816     {
817         nSigOps += txout.scriptPubKey.GetSigOpCount(false);
818     }
819     return nSigOps;
820 }
821
822 unsigned int GetP2SHSigOpCount(const CTransaction& tx, const CCoinsViewCache& inputs)
823 {
824     if (tx.IsCoinBase())
825         return 0;
826
827     unsigned int nSigOps = 0;
828     for (unsigned int i = 0; i < tx.vin.size(); i++)
829     {
830         const CTxOut &prevout = inputs.GetOutputFor(tx.vin[i]);
831         if (prevout.scriptPubKey.IsPayToScriptHash())
832             nSigOps += prevout.scriptPubKey.GetSigOpCount(tx.vin[i].scriptSig);
833     }
834     return nSigOps;
835 }
836
837 bool CheckTransaction(const CTransaction& tx, CValidationState &state,
838                       libzcash::ProofVerifier& verifier)
839 {
840     // Don't count coinbase transactions because mining skews the count
841     if (!tx.IsCoinBase()) {
842         transactionsValidated.increment();
843     }
844
845     if (!CheckTransactionWithoutProofVerification(tx, state)) {
846         return false;
847     } else {
848         // Ensure that zk-SNARKs verify
849         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
850             if (!joinsplit.Verify(*pzcashParams, verifier, tx.joinSplitPubKey)) {
851                 return state.DoS(100, error("CheckTransaction(): joinsplit does not verify"),
852                                     REJECT_INVALID, "bad-txns-joinsplit-verification-failed");
853             }
854         }
855         return true;
856     }
857 }
858
859 bool CheckTransactionWithoutProofVerification(const CTransaction& tx, CValidationState &state)
860 {
861     // Basic checks that don't depend on any context
862
863     // Check transaction version
864     if (tx.nVersion < MIN_TX_VERSION) {
865         return state.DoS(100, error("CheckTransaction(): version too low"),
866                          REJECT_INVALID, "bad-txns-version-too-low");
867     }
868
869     // Transactions can contain empty `vin` and `vout` so long as
870     // `vjoinsplit` is non-empty.
871     if (tx.vin.empty() && tx.vjoinsplit.empty())
872         return state.DoS(10, error("CheckTransaction(): vin empty"),
873                          REJECT_INVALID, "bad-txns-vin-empty");
874     if (tx.vout.empty() && tx.vjoinsplit.empty())
875         return state.DoS(10, error("CheckTransaction(): vout empty"),
876                          REJECT_INVALID, "bad-txns-vout-empty");
877
878     // Size limits
879     BOOST_STATIC_ASSERT(MAX_BLOCK_SIZE > MAX_TX_SIZE); // sanity
880     if (::GetSerializeSize(tx, SER_NETWORK, PROTOCOL_VERSION) > MAX_TX_SIZE)
881         return state.DoS(100, error("CheckTransaction(): size limits failed"),
882                          REJECT_INVALID, "bad-txns-oversize");
883
884     // Check for negative or overflow output values
885     CAmount nValueOut = 0;
886     BOOST_FOREACH(const CTxOut& txout, tx.vout)
887     {
888         if (txout.nValue < 0)
889             return state.DoS(100, error("CheckTransaction(): txout.nValue negative"),
890                              REJECT_INVALID, "bad-txns-vout-negative");
891         if (txout.nValue > MAX_MONEY)
892             return state.DoS(100, error("CheckTransaction(): txout.nValue too high"),
893                              REJECT_INVALID, "bad-txns-vout-toolarge");
894         nValueOut += txout.nValue;
895         if (!MoneyRange(nValueOut))
896             return state.DoS(100, error("CheckTransaction(): txout total out of range"),
897                              REJECT_INVALID, "bad-txns-txouttotal-toolarge");
898     }
899
900     // Ensure that joinsplit values are well-formed
901     BOOST_FOREACH(const JSDescription& joinsplit, tx.vjoinsplit)
902     {
903         if (joinsplit.vpub_old < 0) {
904             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_old negative"),
905                              REJECT_INVALID, "bad-txns-vpub_old-negative");
906         }
907
908         if (joinsplit.vpub_new < 0) {
909             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new negative"),
910                              REJECT_INVALID, "bad-txns-vpub_new-negative");
911         }
912
913         if (joinsplit.vpub_old > MAX_MONEY) {
914             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_old too high"),
915                              REJECT_INVALID, "bad-txns-vpub_old-toolarge");
916         }
917
918         if (joinsplit.vpub_new > MAX_MONEY) {
919             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new too high"),
920                              REJECT_INVALID, "bad-txns-vpub_new-toolarge");
921         }
922
923         if (joinsplit.vpub_new != 0 && joinsplit.vpub_old != 0) {
924             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new and joinsplit.vpub_old both nonzero"),
925                              REJECT_INVALID, "bad-txns-vpubs-both-nonzero");
926         }
927
928         nValueOut += joinsplit.vpub_old;
929         if (!MoneyRange(nValueOut)) {
930             return state.DoS(100, error("CheckTransaction(): txout total out of range"),
931                              REJECT_INVALID, "bad-txns-txouttotal-toolarge");
932         }
933     }
934
935     // Ensure input values do not exceed MAX_MONEY
936     // We have not resolved the txin values at this stage,
937     // but we do know what the joinsplits claim to add
938     // to the value pool.
939     {
940         CAmount nValueIn = 0;
941         for (std::vector<JSDescription>::const_iterator it(tx.vjoinsplit.begin()); it != tx.vjoinsplit.end(); ++it)
942         {
943             nValueIn += it->vpub_new;
944
945             if (!MoneyRange(it->vpub_new) || !MoneyRange(nValueIn)) {
946                 return state.DoS(100, error("CheckTransaction(): txin total out of range"),
947                                  REJECT_INVALID, "bad-txns-txintotal-toolarge");
948             }
949         }
950     }
951
952
953     // Check for duplicate inputs
954     set<COutPoint> vInOutPoints;
955     BOOST_FOREACH(const CTxIn& txin, tx.vin)
956     {
957         if (vInOutPoints.count(txin.prevout))
958             return state.DoS(100, error("CheckTransaction(): duplicate inputs"),
959                              REJECT_INVALID, "bad-txns-inputs-duplicate");
960         vInOutPoints.insert(txin.prevout);
961     }
962
963     // Check for duplicate joinsplit nullifiers in this transaction
964     set<uint256> vJoinSplitNullifiers;
965     BOOST_FOREACH(const JSDescription& joinsplit, tx.vjoinsplit)
966     {
967         BOOST_FOREACH(const uint256& nf, joinsplit.nullifiers)
968         {
969             if (vJoinSplitNullifiers.count(nf))
970                 return state.DoS(100, error("CheckTransaction(): duplicate nullifiers"),
971                              REJECT_INVALID, "bad-joinsplits-nullifiers-duplicate");
972
973             vJoinSplitNullifiers.insert(nf);
974         }
975     }
976
977     if (tx.IsCoinBase())
978     {
979         // There should be no joinsplits in a coinbase transaction
980         if (tx.vjoinsplit.size() > 0)
981             return state.DoS(100, error("CheckTransaction(): coinbase has joinsplits"),
982                              REJECT_INVALID, "bad-cb-has-joinsplits");
983
984         if (tx.vin[0].scriptSig.size() < 2 || tx.vin[0].scriptSig.size() > 100)
985             return state.DoS(100, error("CheckTransaction(): coinbase script size"),
986                              REJECT_INVALID, "bad-cb-length");
987     }
988     else
989     {
990         BOOST_FOREACH(const CTxIn& txin, tx.vin)
991             if (txin.prevout.IsNull())
992                 return state.DoS(10, error("CheckTransaction(): prevout is null"),
993                                  REJECT_INVALID, "bad-txns-prevout-null");
994
995         if (tx.vjoinsplit.size() > 0) {
996             // Empty output script.
997             CScript scriptCode;
998             uint256 dataToBeSigned;
999             try {
1000                 dataToBeSigned = SignatureHash(scriptCode, tx, NOT_AN_INPUT, SIGHASH_ALL);
1001             } catch (std::logic_error ex) {
1002                 return state.DoS(100, error("CheckTransaction(): error computing signature hash"),
1003                                  REJECT_INVALID, "error-computing-signature-hash");
1004             }
1005
1006             BOOST_STATIC_ASSERT(crypto_sign_PUBLICKEYBYTES == 32);
1007
1008             // We rely on libsodium to check that the signature is canonical.
1009             // https://github.com/jedisct1/libsodium/commit/62911edb7ff2275cccd74bf1c8aefcc4d76924e0
1010             if (crypto_sign_verify_detached(&tx.joinSplitSig[0],
1011                                             dataToBeSigned.begin(), 32,
1012                                             tx.joinSplitPubKey.begin()
1013                                            ) != 0) {
1014                 return state.DoS(100, error("CheckTransaction(): invalid joinsplit signature"),
1015                                  REJECT_INVALID, "bad-txns-invalid-joinsplit-signature");
1016             }
1017         }
1018     }
1019
1020     return true;
1021 }
1022
1023 CAmount GetMinRelayFee(const CTransaction& tx, unsigned int nBytes, bool fAllowFree)
1024 {
1025     {
1026         LOCK(mempool.cs);
1027         uint256 hash = tx.GetHash();
1028         double dPriorityDelta = 0;
1029         CAmount nFeeDelta = 0;
1030         mempool.ApplyDeltas(hash, dPriorityDelta, nFeeDelta);
1031         if (dPriorityDelta > 0 || nFeeDelta > 0)
1032             return 0;
1033     }
1034
1035     CAmount nMinFee = ::minRelayTxFee.GetFee(nBytes);
1036
1037     if (fAllowFree)
1038     {
1039         // There is a free transaction area in blocks created by most miners,
1040         // * If we are relaying we allow transactions up to DEFAULT_BLOCK_PRIORITY_SIZE - 1000
1041         //   to be considered to fall into this category. We don't want to encourage sending
1042         //   multiple transactions instead of one big transaction to avoid fees.
1043         if (nBytes < (DEFAULT_BLOCK_PRIORITY_SIZE - 1000))
1044             nMinFee = 0;
1045     }
1046
1047     if (!MoneyRange(nMinFee))
1048         nMinFee = MAX_MONEY;
1049     return nMinFee;
1050 }
1051
1052
1053 bool AcceptToMemoryPool(CTxMemPool& pool, CValidationState &state, const CTransaction &tx, bool fLimitFree,
1054                         bool* pfMissingInputs, bool fRejectAbsurdFee)
1055 {
1056     AssertLockHeld(cs_main);
1057     if (pfMissingInputs)
1058         *pfMissingInputs = false;
1059
1060     auto verifier = libzcash::ProofVerifier::Strict();
1061     if (!CheckTransaction(tx, state, verifier))
1062         return error("AcceptToMemoryPool: CheckTransaction failed");
1063
1064     // Coinbase is only valid in a block, not as a loose transaction
1065     if (tx.IsCoinBase())
1066         return state.DoS(100, error("AcceptToMemoryPool: coinbase as individual tx"),
1067                          REJECT_INVALID, "coinbase");
1068
1069     // Rather not work on nonstandard transactions (unless -testnet/-regtest)
1070     string reason;
1071     if (Params().RequireStandard() && !IsStandardTx(tx, reason))
1072         return state.DoS(0,
1073                          error("AcceptToMemoryPool: nonstandard transaction: %s", reason),
1074                          REJECT_NONSTANDARD, reason);
1075
1076     // Only accept nLockTime-using transactions that can be mined in the next
1077     // block; we don't want our mempool filled up with transactions that can't
1078     // be mined yet.
1079     if (!CheckFinalTx(tx, STANDARD_LOCKTIME_VERIFY_FLAGS))
1080         return state.DoS(0, false, REJECT_NONSTANDARD, "non-final");
1081
1082     // is it already in the memory pool?
1083     uint256 hash = tx.GetHash();
1084     if (pool.exists(hash))
1085         return false;
1086
1087     // Check for conflicts with in-memory transactions
1088     {
1089     LOCK(pool.cs); // protect pool.mapNextTx
1090     for (unsigned int i = 0; i < tx.vin.size(); i++)
1091     {
1092         COutPoint outpoint = tx.vin[i].prevout;
1093         if (pool.mapNextTx.count(outpoint))
1094         {
1095             // Disable replacement feature for now
1096             return false;
1097         }
1098     }
1099     BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1100         BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1101             if (pool.mapNullifiers.count(nf))
1102             {
1103                 return false;
1104             }
1105         }
1106     }
1107     }
1108
1109     {
1110         CCoinsView dummy;
1111         CCoinsViewCache view(&dummy);
1112
1113         CAmount nValueIn = 0;
1114         {
1115         LOCK(pool.cs);
1116         CCoinsViewMemPool viewMemPool(pcoinsTip, pool);
1117         view.SetBackend(viewMemPool);
1118
1119         // do we already have it?
1120         if (view.HaveCoins(hash))
1121             return false;
1122
1123         // do all inputs exist?
1124         // Note that this does not check for the presence of actual outputs (see the next check for that),
1125         // and only helps with filling in pfMissingInputs (to determine missing vs spent).
1126         BOOST_FOREACH(const CTxIn txin, tx.vin) {
1127             if (!view.HaveCoins(txin.prevout.hash)) {
1128                 if (pfMissingInputs)
1129                     *pfMissingInputs = true;
1130                 return false;
1131             }
1132         }
1133
1134         // are the actual inputs available?
1135         if (!view.HaveInputs(tx))
1136             return state.Invalid(error("AcceptToMemoryPool: inputs already spent"),
1137                                  REJECT_DUPLICATE, "bad-txns-inputs-spent");
1138
1139         // are the joinsplit's requirements met?
1140         if (!view.HaveJoinSplitRequirements(tx))
1141             return state.Invalid(error("AcceptToMemoryPool: joinsplit requirements not met"),
1142                                  REJECT_DUPLICATE, "bad-txns-joinsplit-requirements-not-met");
1143
1144         // Bring the best block into scope
1145         view.GetBestBlock();
1146
1147         nValueIn = view.GetValueIn(tx);
1148
1149         // we have all inputs cached now, so switch back to dummy, so we don't need to keep lock on mempool
1150         view.SetBackend(dummy);
1151         }
1152
1153         // Check for non-standard pay-to-script-hash in inputs
1154         if (Params().RequireStandard() && !AreInputsStandard(tx, view))
1155             return error("AcceptToMemoryPool: nonstandard transaction input");
1156
1157         // Check that the transaction doesn't have an excessive number of
1158         // sigops, making it impossible to mine. Since the coinbase transaction
1159         // itself can contain sigops MAX_STANDARD_TX_SIGOPS is less than
1160         // MAX_BLOCK_SIGOPS; we still consider this an invalid rather than
1161         // merely non-standard transaction.
1162         unsigned int nSigOps = GetLegacySigOpCount(tx);
1163         nSigOps += GetP2SHSigOpCount(tx, view);
1164         if (nSigOps > MAX_STANDARD_TX_SIGOPS)
1165             return state.DoS(0,
1166                              error("AcceptToMemoryPool: too many sigops %s, %d > %d",
1167                                    hash.ToString(), nSigOps, MAX_STANDARD_TX_SIGOPS),
1168                              REJECT_NONSTANDARD, "bad-txns-too-many-sigops");
1169
1170         CAmount nValueOut = tx.GetValueOut();
1171         CAmount nFees = nValueIn-nValueOut;
1172         double dPriority = view.GetPriority(tx, chainActive.Height());
1173
1174         CTxMemPoolEntry entry(tx, nFees, GetTime(), dPriority, chainActive.Height(), mempool.HasNoInputsOf(tx));
1175         unsigned int nSize = entry.GetTxSize();
1176
1177         // Accept a tx if it contains joinsplits and has at least the default fee specified by z_sendmany.
1178         if (tx.vjoinsplit.size() > 0 && nFees >= ASYNC_RPC_OPERATION_DEFAULT_MINERS_FEE) {
1179             // In future we will we have more accurate and dynamic computation of fees for tx with joinsplits.
1180         } else {
1181             // Don't accept it if it can't get into a block
1182             CAmount txMinFee = GetMinRelayFee(tx, nSize, true);
1183             if (fLimitFree && nFees < txMinFee)
1184                 return state.DoS(0, error("AcceptToMemoryPool: not enough fees %s, %d < %d",
1185                                         hash.ToString(), nFees, txMinFee),
1186                                 REJECT_INSUFFICIENTFEE, "insufficient fee");
1187         }
1188
1189         // Require that free transactions have sufficient priority to be mined in the next block.
1190         if (GetBoolArg("-relaypriority", false) && nFees < ::minRelayTxFee.GetFee(nSize) && !AllowFree(view.GetPriority(tx, chainActive.Height() + 1))) {
1191             return state.DoS(0, false, REJECT_INSUFFICIENTFEE, "insufficient priority");
1192         }
1193
1194         // Continuously rate-limit free (really, very-low-fee) transactions
1195         // This mitigates 'penny-flooding' -- sending thousands of free transactions just to
1196         // be annoying or make others' transactions take longer to confirm.
1197         if (fLimitFree && nFees < ::minRelayTxFee.GetFee(nSize))
1198         {
1199             static CCriticalSection csFreeLimiter;
1200             static double dFreeCount;
1201             static int64_t nLastTime;
1202             int64_t nNow = GetTime();
1203
1204             LOCK(csFreeLimiter);
1205
1206             // Use an exponentially decaying ~10-minute window:
1207             dFreeCount *= pow(1.0 - 1.0/600.0, (double)(nNow - nLastTime));
1208             nLastTime = nNow;
1209             // -limitfreerelay unit is thousand-bytes-per-minute
1210             // At default rate it would take over a month to fill 1GB
1211             if (dFreeCount >= GetArg("-limitfreerelay", 15)*10*1000)
1212                 return state.DoS(0, error("AcceptToMemoryPool: free transaction rejected by rate limiter"),
1213                                  REJECT_INSUFFICIENTFEE, "rate limited free transaction");
1214             LogPrint("mempool", "Rate limit dFreeCount: %g => %g\n", dFreeCount, dFreeCount+nSize);
1215             dFreeCount += nSize;
1216         }
1217
1218         if (fRejectAbsurdFee && nFees > ::minRelayTxFee.GetFee(nSize) * 10000)
1219             return error("AcceptToMemoryPool: absurdly high fees %s, %d > %d",
1220                          hash.ToString(),
1221                          nFees, ::minRelayTxFee.GetFee(nSize) * 10000);
1222
1223         // Check against previous transactions
1224         // This is done last to help prevent CPU exhaustion denial-of-service attacks.
1225         if (!ContextualCheckInputs(tx, state, view, true, STANDARD_SCRIPT_VERIFY_FLAGS, true, Params().GetConsensus()))
1226         {
1227             return error("AcceptToMemoryPool: ConnectInputs failed %s", hash.ToString());
1228         }
1229
1230         // Check again against just the consensus-critical mandatory script
1231         // verification flags, in case of bugs in the standard flags that cause
1232         // transactions to pass as valid when they're actually invalid. For
1233         // instance the STRICTENC flag was incorrectly allowing certain
1234         // CHECKSIG NOT scripts to pass, even though they were invalid.
1235         //
1236         // There is a similar check in CreateNewBlock() to prevent creating
1237         // invalid blocks, however allowing such transactions into the mempool
1238         // can be exploited as a DoS attack.
1239         if (!ContextualCheckInputs(tx, state, view, true, MANDATORY_SCRIPT_VERIFY_FLAGS, true, Params().GetConsensus()))
1240         {
1241             return error("AcceptToMemoryPool: BUG! PLEASE REPORT THIS! ConnectInputs failed against MANDATORY but not STANDARD flags %s", hash.ToString());
1242         }
1243
1244         // Store transaction in memory
1245         pool.addUnchecked(hash, entry, !IsInitialBlockDownload());
1246     }
1247
1248     SyncWithWallets(tx, NULL);
1249
1250     return true;
1251 }
1252
1253 /** Return transaction in tx, and if it was found inside a block, its hash is placed in hashBlock */
1254 bool GetTransaction(const uint256 &hash, CTransaction &txOut, uint256 &hashBlock, bool fAllowSlow)
1255 {
1256     CBlockIndex *pindexSlow = NULL;
1257
1258     LOCK(cs_main);
1259
1260     if (mempool.lookup(hash, txOut))
1261     {
1262         return true;
1263     }
1264
1265     if (fTxIndex) {
1266         CDiskTxPos postx;
1267         if (pblocktree->ReadTxIndex(hash, postx)) {
1268             CAutoFile file(OpenBlockFile(postx, true), SER_DISK, CLIENT_VERSION);
1269             if (file.IsNull())
1270                 return error("%s: OpenBlockFile failed", __func__);
1271             CBlockHeader header;
1272             try {
1273                 file >> header;
1274                 fseek(file.Get(), postx.nTxOffset, SEEK_CUR);
1275                 file >> txOut;
1276             } catch (const std::exception& e) {
1277                 return error("%s: Deserialize or I/O error - %s", __func__, e.what());
1278             }
1279             hashBlock = header.GetHash();
1280             if (txOut.GetHash() != hash)
1281                 return error("%s: txid mismatch", __func__);
1282             return true;
1283         }
1284     }
1285
1286     if (fAllowSlow) { // use coin database to locate block that contains transaction, and scan it
1287         int nHeight = -1;
1288         {
1289             CCoinsViewCache &view = *pcoinsTip;
1290             const CCoins* coins = view.AccessCoins(hash);
1291             if (coins)
1292                 nHeight = coins->nHeight;
1293         }
1294         if (nHeight > 0)
1295             pindexSlow = chainActive[nHeight];
1296     }
1297
1298     if (pindexSlow) {
1299         CBlock block;
1300         if (ReadBlockFromDisk(block, pindexSlow)) {
1301             BOOST_FOREACH(const CTransaction &tx, block.vtx) {
1302                 if (tx.GetHash() == hash) {
1303                     txOut = tx;
1304                     hashBlock = pindexSlow->GetBlockHash();
1305                     return true;
1306                 }
1307             }
1308         }
1309     }
1310
1311     return false;
1312 }
1313
1314
1315
1316
1317
1318
1319 //////////////////////////////////////////////////////////////////////////////
1320 //
1321 // CBlock and CBlockIndex
1322 //
1323
1324 bool WriteBlockToDisk(CBlock& block, CDiskBlockPos& pos, const CMessageHeader::MessageStartChars& messageStart)
1325 {
1326     // Open history file to append
1327     CAutoFile fileout(OpenBlockFile(pos), SER_DISK, CLIENT_VERSION);
1328     if (fileout.IsNull())
1329         return error("WriteBlockToDisk: OpenBlockFile failed");
1330
1331     // Write index header
1332     unsigned int nSize = fileout.GetSerializeSize(block);
1333     fileout << FLATDATA(messageStart) << nSize;
1334
1335     // Write block
1336     long fileOutPos = ftell(fileout.Get());
1337     if (fileOutPos < 0)
1338         return error("WriteBlockToDisk: ftell failed");
1339     pos.nPos = (unsigned int)fileOutPos;
1340     fileout << block;
1341
1342     return true;
1343 }
1344
1345 bool ReadBlockFromDisk(CBlock& block, const CDiskBlockPos& pos)
1346 {
1347     block.SetNull();
1348
1349     // Open history file to read
1350     CAutoFile filein(OpenBlockFile(pos, true), SER_DISK, CLIENT_VERSION);
1351     if (filein.IsNull())
1352         return error("ReadBlockFromDisk: OpenBlockFile failed for %s", pos.ToString());
1353
1354     // Read block
1355     try {
1356         filein >> block;
1357     }
1358     catch (const std::exception& e) {
1359         return error("%s: Deserialize or I/O error - %s at %s", __func__, e.what(), pos.ToString());
1360     }
1361
1362     // Check the header
1363     if (!(CheckEquihashSolution(&block, Params()) &&
1364           CheckProofOfWork(block.GetHash(), block.nBits, Params().GetConsensus())))
1365         return error("ReadBlockFromDisk: Errors in block header at %s", pos.ToString());
1366
1367     return true;
1368 }
1369
1370 bool ReadBlockFromDisk(CBlock& block, const CBlockIndex* pindex)
1371 {
1372     if (!ReadBlockFromDisk(block, pindex->GetBlockPos()))
1373         return false;
1374     if (block.GetHash() != pindex->GetBlockHash())
1375         return error("ReadBlockFromDisk(CBlock&, CBlockIndex*): GetHash() doesn't match index for %s at %s",
1376                 pindex->ToString(), pindex->GetBlockPos().ToString());
1377     return true;
1378 }
1379
1380 CAmount GetBlockSubsidy(int nHeight, const Consensus::Params& consensusParams)
1381 {
1382     CAmount nSubsidy = 12.5 * COIN;
1383
1384     // Mining slow start
1385     // The subsidy is ramped up linearly, skipping the middle payout of
1386     // MAX_SUBSIDY/2 to keep the monetary curve consistent with no slow start.
1387     if (nHeight < consensusParams.nSubsidySlowStartInterval / 2) {
1388         nSubsidy /= consensusParams.nSubsidySlowStartInterval;
1389         nSubsidy *= nHeight;
1390         return nSubsidy;
1391     } else if (nHeight < consensusParams.nSubsidySlowStartInterval) {
1392         nSubsidy /= consensusParams.nSubsidySlowStartInterval;
1393         nSubsidy *= (nHeight+1);
1394         return nSubsidy;
1395     }
1396
1397     assert(nHeight > consensusParams.SubsidySlowStartShift());
1398     int halvings = (nHeight - consensusParams.SubsidySlowStartShift()) / consensusParams.nSubsidyHalvingInterval;
1399     // Force block reward to zero when right shift is undefined.
1400     if (halvings >= 64)
1401         return 0;
1402
1403     // Subsidy is cut in half every 840,000 blocks which will occur approximately every 4 years.
1404     nSubsidy >>= halvings;
1405     return nSubsidy;
1406 }
1407
1408 bool IsInitialBlockDownload()
1409 {
1410     const CChainParams& chainParams = Params();
1411     LOCK(cs_main);
1412     if (fImporting || fReindex)
1413         return true;
1414     if (fCheckpointsEnabled && chainActive.Height() < Checkpoints::GetTotalBlocksEstimate(chainParams.Checkpoints()))
1415         return true;
1416     static bool lockIBDState = false;
1417     if (lockIBDState)
1418         return false;
1419     bool state = (chainActive.Height() < pindexBestHeader->nHeight - 24 * 6 ||
1420             pindexBestHeader->GetBlockTime() < GetTime() - chainParams.MaxTipAge());
1421     if (!state)
1422         lockIBDState = true;
1423     return state;
1424 }
1425
1426 bool fLargeWorkForkFound = false;
1427 bool fLargeWorkInvalidChainFound = false;
1428 CBlockIndex *pindexBestForkTip = NULL, *pindexBestForkBase = NULL;
1429
1430 void CheckForkWarningConditions()
1431 {
1432     AssertLockHeld(cs_main);
1433     // Before we get past initial download, we cannot reliably alert about forks
1434     // (we assume we don't get stuck on a fork before the last checkpoint)
1435     if (IsInitialBlockDownload())
1436         return;
1437
1438     // If our best fork is no longer within 288 blocks (+/- 12 hours if no one mines it)
1439     // of our head, drop it
1440     if (pindexBestForkTip && chainActive.Height() - pindexBestForkTip->nHeight >= 288)
1441         pindexBestForkTip = NULL;
1442
1443     if (pindexBestForkTip || (pindexBestInvalid && pindexBestInvalid->nChainWork > chainActive.Tip()->nChainWork + (GetBlockProof(*chainActive.Tip()) * 6)))
1444     {
1445         if (!fLargeWorkForkFound && pindexBestForkBase)
1446         {
1447             std::string warning = std::string("'Warning: Large-work fork detected, forking after block ") +
1448                 pindexBestForkBase->phashBlock->ToString() + std::string("'");
1449             CAlert::Notify(warning, true);
1450         }
1451         if (pindexBestForkTip && pindexBestForkBase)
1452         {
1453             LogPrintf("%s: Warning: Large valid fork found\n  forking the chain at height %d (%s)\n  lasting to height %d (%s).\nChain state database corruption likely.\n", __func__,
1454                    pindexBestForkBase->nHeight, pindexBestForkBase->phashBlock->ToString(),
1455                    pindexBestForkTip->nHeight, pindexBestForkTip->phashBlock->ToString());
1456             fLargeWorkForkFound = true;
1457         }
1458         else
1459         {
1460             std::string warning = std::string("Warning: Found invalid chain at least ~6 blocks longer than our best chain.\nChain state database corruption likely.");
1461             LogPrintf("%s: %s\n", warning.c_str(), __func__);
1462             CAlert::Notify(warning, true);
1463             fLargeWorkInvalidChainFound = true;
1464         }
1465     }
1466     else
1467     {
1468         fLargeWorkForkFound = false;
1469         fLargeWorkInvalidChainFound = false;
1470     }
1471 }
1472
1473 void CheckForkWarningConditionsOnNewFork(CBlockIndex* pindexNewForkTip)
1474 {
1475     AssertLockHeld(cs_main);
1476     // If we are on a fork that is sufficiently large, set a warning flag
1477     CBlockIndex* pfork = pindexNewForkTip;
1478     CBlockIndex* plonger = chainActive.Tip();
1479     while (pfork && pfork != plonger)
1480     {
1481         while (plonger && plonger->nHeight > pfork->nHeight)
1482             plonger = plonger->pprev;
1483         if (pfork == plonger)
1484             break;
1485         pfork = pfork->pprev;
1486     }
1487
1488     // We define a condition where we should warn the user about as a fork of at least 7 blocks
1489     // with a tip within 72 blocks (+/- 3 hours if no one mines it) of ours
1490     // We use 7 blocks rather arbitrarily as it represents just under 10% of sustained network
1491     // hash rate operating on the fork.
1492     // or a chain that is entirely longer than ours and invalid (note that this should be detected by both)
1493     // We define it this way because it allows us to only store the highest fork tip (+ base) which meets
1494     // the 7-block condition and from this always have the most-likely-to-cause-warning fork
1495     if (pfork && (!pindexBestForkTip || (pindexBestForkTip && pindexNewForkTip->nHeight > pindexBestForkTip->nHeight)) &&
1496             pindexNewForkTip->nChainWork - pfork->nChainWork > (GetBlockProof(*pfork) * 7) &&
1497             chainActive.Height() - pindexNewForkTip->nHeight < 72)
1498     {
1499         pindexBestForkTip = pindexNewForkTip;
1500         pindexBestForkBase = pfork;
1501     }
1502
1503     CheckForkWarningConditions();
1504 }
1505
1506 // Requires cs_main.
1507 void Misbehaving(NodeId pnode, int howmuch)
1508 {
1509     if (howmuch == 0)
1510         return;
1511
1512     CNodeState *state = State(pnode);
1513     if (state == NULL)
1514         return;
1515
1516     state->nMisbehavior += howmuch;
1517     int banscore = GetArg("-banscore", 100);
1518     if (state->nMisbehavior >= banscore && state->nMisbehavior - howmuch < banscore)
1519     {
1520         LogPrintf("%s: %s (%d -> %d) BAN THRESHOLD EXCEEDED\n", __func__, state->name, state->nMisbehavior-howmuch, state->nMisbehavior);
1521         state->fShouldBan = true;
1522     } else
1523         LogPrintf("%s: %s (%d -> %d)\n", __func__, state->name, state->nMisbehavior-howmuch, state->nMisbehavior);
1524 }
1525
1526 void static InvalidChainFound(CBlockIndex* pindexNew)
1527 {
1528     if (!pindexBestInvalid || pindexNew->nChainWork > pindexBestInvalid->nChainWork)
1529         pindexBestInvalid = pindexNew;
1530
1531     LogPrintf("%s: invalid block=%s  height=%d  log2_work=%.8g  date=%s\n", __func__,
1532       pindexNew->GetBlockHash().ToString(), pindexNew->nHeight,
1533       log(pindexNew->nChainWork.getdouble())/log(2.0), DateTimeStrFormat("%Y-%m-%d %H:%M:%S",
1534       pindexNew->GetBlockTime()));
1535     CBlockIndex *tip = chainActive.Tip();
1536     assert (tip);
1537     LogPrintf("%s:  current best=%s  height=%d  log2_work=%.8g  date=%s\n", __func__,
1538       tip->GetBlockHash().ToString(), chainActive.Height(), log(tip->nChainWork.getdouble())/log(2.0),
1539       DateTimeStrFormat("%Y-%m-%d %H:%M:%S", tip->GetBlockTime()));
1540     CheckForkWarningConditions();
1541 }
1542
1543 void static InvalidBlockFound(CBlockIndex *pindex, const CValidationState &state) {
1544     int nDoS = 0;
1545     if (state.IsInvalid(nDoS)) {
1546         std::map<uint256, NodeId>::iterator it = mapBlockSource.find(pindex->GetBlockHash());
1547         if (it != mapBlockSource.end() && State(it->second)) {
1548             CBlockReject reject = {state.GetRejectCode(), state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), pindex->GetBlockHash()};
1549             State(it->second)->rejects.push_back(reject);
1550             if (nDoS > 0)
1551                 Misbehaving(it->second, nDoS);
1552         }
1553     }
1554     if (!state.CorruptionPossible()) {
1555         pindex->nStatus |= BLOCK_FAILED_VALID;
1556         setDirtyBlockIndex.insert(pindex);
1557         setBlockIndexCandidates.erase(pindex);
1558         InvalidChainFound(pindex);
1559     }
1560 }
1561
1562 void UpdateCoins(const CTransaction& tx, CValidationState &state, CCoinsViewCache &inputs, CTxUndo &txundo, int nHeight)
1563 {
1564     // mark inputs spent
1565     if (!tx.IsCoinBase()) {
1566         txundo.vprevout.reserve(tx.vin.size());
1567         BOOST_FOREACH(const CTxIn &txin, tx.vin) {
1568             CCoinsModifier coins = inputs.ModifyCoins(txin.prevout.hash);
1569             unsigned nPos = txin.prevout.n;
1570
1571             if (nPos >= coins->vout.size() || coins->vout[nPos].IsNull())
1572                 assert(false);
1573             // mark an outpoint spent, and construct undo information
1574             txundo.vprevout.push_back(CTxInUndo(coins->vout[nPos]));
1575             coins->Spend(nPos);
1576             if (coins->vout.size() == 0) {
1577                 CTxInUndo& undo = txundo.vprevout.back();
1578                 undo.nHeight = coins->nHeight;
1579                 undo.fCoinBase = coins->fCoinBase;
1580                 undo.nVersion = coins->nVersion;
1581             }
1582         }
1583     }
1584
1585     // spend nullifiers
1586     BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1587         BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1588             inputs.SetNullifier(nf, true);
1589         }
1590     }
1591
1592     // add outputs
1593     inputs.ModifyCoins(tx.GetHash())->FromTx(tx, nHeight);
1594 }
1595
1596 void UpdateCoins(const CTransaction& tx, CValidationState &state, CCoinsViewCache &inputs, int nHeight)
1597 {
1598     CTxUndo txundo;
1599     UpdateCoins(tx, state, inputs, txundo, nHeight);
1600 }
1601
1602 bool CScriptCheck::operator()() {
1603     const CScript &scriptSig = ptxTo->vin[nIn].scriptSig;
1604     if (!VerifyScript(scriptSig, scriptPubKey, nFlags, CachingTransactionSignatureChecker(ptxTo, nIn, cacheStore), &error)) {
1605         return ::error("CScriptCheck(): %s:%d VerifySignature failed: %s", ptxTo->GetHash().ToString(), nIn, ScriptErrorString(error));
1606     }
1607     return true;
1608 }
1609
1610 int GetSpendHeight(const CCoinsViewCache& inputs)
1611 {
1612     LOCK(cs_main);
1613     CBlockIndex* pindexPrev = mapBlockIndex.find(inputs.GetBestBlock())->second;
1614     return pindexPrev->nHeight + 1;
1615 }
1616
1617 namespace Consensus {
1618 bool CheckTxInputs(const CTransaction& tx, CValidationState& state, const CCoinsViewCache& inputs, int nSpendHeight, const Consensus::Params& consensusParams)
1619 {
1620         // This doesn't trigger the DoS code on purpose; if it did, it would make it easier
1621         // for an attacker to attempt to split the network.
1622         if (!inputs.HaveInputs(tx))
1623             return state.Invalid(error("CheckInputs(): %s inputs unavailable", tx.GetHash().ToString()));
1624
1625         // are the JoinSplit's requirements met?
1626         if (!inputs.HaveJoinSplitRequirements(tx))
1627             return state.Invalid(error("CheckInputs(): %s JoinSplit requirements not met", tx.GetHash().ToString()));
1628
1629         CAmount nValueIn = 0;
1630         CAmount nFees = 0;
1631         for (unsigned int i = 0; i < tx.vin.size(); i++)
1632         {
1633             const COutPoint &prevout = tx.vin[i].prevout;
1634             const CCoins *coins = inputs.AccessCoins(prevout.hash);
1635             assert(coins);
1636
1637             if (coins->IsCoinBase()) {
1638                 // Ensure that coinbases are matured
1639                 if (nSpendHeight - coins->nHeight < COINBASE_MATURITY) {
1640                     return state.Invalid(
1641                         error("CheckInputs(): tried to spend coinbase at depth %d", nSpendHeight - coins->nHeight),
1642                         REJECT_INVALID, "bad-txns-premature-spend-of-coinbase");
1643                 }
1644
1645                 // Ensure that coinbases cannot be spent to transparent outputs
1646                 // Disabled on regtest
1647                 if (fCoinbaseEnforcedProtectionEnabled &&
1648                     consensusParams.fCoinbaseMustBeProtected &&
1649                     !tx.vout.empty()) {
1650                     return state.Invalid(
1651                         error("CheckInputs(): tried to spend coinbase with transparent outputs"),
1652                         REJECT_INVALID, "bad-txns-coinbase-spend-has-transparent-outputs");
1653                 }
1654             }
1655
1656             // Check for negative or overflow input values
1657             nValueIn += coins->vout[prevout.n].nValue;
1658             if (!MoneyRange(coins->vout[prevout.n].nValue) || !MoneyRange(nValueIn))
1659                 return state.DoS(100, error("CheckInputs(): txin values out of range"),
1660                                  REJECT_INVALID, "bad-txns-inputvalues-outofrange");
1661
1662         }
1663
1664         nValueIn += tx.GetJoinSplitValueIn();
1665         if (!MoneyRange(nValueIn))
1666             return state.DoS(100, error("CheckInputs(): vpub_old values out of range"),
1667                              REJECT_INVALID, "bad-txns-inputvalues-outofrange");
1668
1669         if (nValueIn < tx.GetValueOut())
1670             return state.DoS(100, error("CheckInputs(): %s value in (%s) < value out (%s)",
1671                                         tx.GetHash().ToString(), FormatMoney(nValueIn), FormatMoney(tx.GetValueOut())),
1672                              REJECT_INVALID, "bad-txns-in-belowout");
1673
1674         // Tally transaction fees
1675         CAmount nTxFee = nValueIn - tx.GetValueOut();
1676         if (nTxFee < 0)
1677             return state.DoS(100, error("CheckInputs(): %s nTxFee < 0", tx.GetHash().ToString()),
1678                              REJECT_INVALID, "bad-txns-fee-negative");
1679         nFees += nTxFee;
1680         if (!MoneyRange(nFees))
1681             return state.DoS(100, error("CheckInputs(): nFees out of range"),
1682                              REJECT_INVALID, "bad-txns-fee-outofrange");
1683     return true;
1684 }
1685 }// namespace Consensus
1686
1687 bool ContextualCheckInputs(const CTransaction& tx, CValidationState &state, const CCoinsViewCache &inputs, bool fScriptChecks, unsigned int flags, bool cacheStore, const Consensus::Params& consensusParams, std::vector<CScriptCheck> *pvChecks)
1688 {
1689     if (!Consensus::CheckTxInputs(tx, state, inputs, GetSpendHeight(inputs), consensusParams))
1690         return false;
1691
1692     if (!tx.IsCoinBase())
1693     {
1694         if (pvChecks)
1695             pvChecks->reserve(tx.vin.size());
1696
1697         // The first loop above does all the inexpensive checks.
1698         // Only if ALL inputs pass do we perform expensive ECDSA signature checks.
1699         // Helps prevent CPU exhaustion attacks.
1700
1701         // Skip ECDSA signature verification when connecting blocks
1702         // before the last block chain checkpoint. This is safe because block merkle hashes are
1703         // still computed and checked, and any change will be caught at the next checkpoint.
1704         if (fScriptChecks) {
1705             for (unsigned int i = 0; i < tx.vin.size(); i++) {
1706                 const COutPoint &prevout = tx.vin[i].prevout;
1707                 const CCoins* coins = inputs.AccessCoins(prevout.hash);
1708                 assert(coins);
1709
1710                 // Verify signature
1711                 CScriptCheck check(*coins, tx, i, flags, cacheStore);
1712                 if (pvChecks) {
1713                     pvChecks->push_back(CScriptCheck());
1714                     check.swap(pvChecks->back());
1715                 } else if (!check()) {
1716                     if (flags & STANDARD_NOT_MANDATORY_VERIFY_FLAGS) {
1717                         // Check whether the failure was caused by a
1718                         // non-mandatory script verification check, such as
1719                         // non-standard DER encodings or non-null dummy
1720                         // arguments; if so, don't trigger DoS protection to
1721                         // avoid splitting the network between upgraded and
1722                         // non-upgraded nodes.
1723                         CScriptCheck check(*coins, tx, i,
1724                                 flags & ~STANDARD_NOT_MANDATORY_VERIFY_FLAGS, cacheStore);
1725                         if (check())
1726                             return state.Invalid(false, REJECT_NONSTANDARD, strprintf("non-mandatory-script-verify-flag (%s)", ScriptErrorString(check.GetScriptError())));
1727                     }
1728                     // Failures of other flags indicate a transaction that is
1729                     // invalid in new blocks, e.g. a invalid P2SH. We DoS ban
1730                     // such nodes as they are not following the protocol. That
1731                     // said during an upgrade careful thought should be taken
1732                     // as to the correct behavior - we may want to continue
1733                     // peering with non-upgraded nodes even after a soft-fork
1734                     // super-majority vote has passed.
1735                     return state.DoS(100,false, REJECT_INVALID, strprintf("mandatory-script-verify-flag-failed (%s)", ScriptErrorString(check.GetScriptError())));
1736                 }
1737             }
1738         }
1739     }
1740
1741     return true;
1742 }
1743
1744 namespace {
1745
1746 bool UndoWriteToDisk(const CBlockUndo& blockundo, CDiskBlockPos& pos, const uint256& hashBlock, const CMessageHeader::MessageStartChars& messageStart)
1747 {
1748     // Open history file to append
1749     CAutoFile fileout(OpenUndoFile(pos), SER_DISK, CLIENT_VERSION);
1750     if (fileout.IsNull())
1751         return error("%s: OpenUndoFile failed", __func__);
1752
1753     // Write index header
1754     unsigned int nSize = fileout.GetSerializeSize(blockundo);
1755     fileout << FLATDATA(messageStart) << nSize;
1756
1757     // Write undo data
1758     long fileOutPos = ftell(fileout.Get());
1759     if (fileOutPos < 0)
1760         return error("%s: ftell failed", __func__);
1761     pos.nPos = (unsigned int)fileOutPos;
1762     fileout << blockundo;
1763
1764     // calculate & write checksum
1765     CHashWriter hasher(SER_GETHASH, PROTOCOL_VERSION);
1766     hasher << hashBlock;
1767     hasher << blockundo;
1768     fileout << hasher.GetHash();
1769
1770     return true;
1771 }
1772
1773 bool UndoReadFromDisk(CBlockUndo& blockundo, const CDiskBlockPos& pos, const uint256& hashBlock)
1774 {
1775     // Open history file to read
1776     CAutoFile filein(OpenUndoFile(pos, true), SER_DISK, CLIENT_VERSION);
1777     if (filein.IsNull())
1778         return error("%s: OpenBlockFile failed", __func__);
1779
1780     // Read block
1781     uint256 hashChecksum;
1782     try {
1783         filein >> blockundo;
1784         filein >> hashChecksum;
1785     }
1786     catch (const std::exception& e) {
1787         return error("%s: Deserialize or I/O error - %s", __func__, e.what());
1788     }
1789
1790     // Verify checksum
1791     CHashWriter hasher(SER_GETHASH, PROTOCOL_VERSION);
1792     hasher << hashBlock;
1793     hasher << blockundo;
1794     if (hashChecksum != hasher.GetHash())
1795         return error("%s: Checksum mismatch", __func__);
1796
1797     return true;
1798 }
1799
1800 /** Abort with a message */
1801 bool AbortNode(const std::string& strMessage, const std::string& userMessage="")
1802 {
1803     strMiscWarning = strMessage;
1804     LogPrintf("*** %s\n", strMessage);
1805     uiInterface.ThreadSafeMessageBox(
1806         userMessage.empty() ? _("Error: A fatal internal error occurred, see debug.log for details") : userMessage,
1807         "", CClientUIInterface::MSG_ERROR);
1808     StartShutdown();
1809     return false;
1810 }
1811
1812 bool AbortNode(CValidationState& state, const std::string& strMessage, const std::string& userMessage="")
1813 {
1814     AbortNode(strMessage, userMessage);
1815     return state.Error(strMessage);
1816 }
1817
1818 } // anon namespace
1819
1820 /**
1821  * Apply the undo operation of a CTxInUndo to the given chain state.
1822  * @param undo The undo object.
1823  * @param view The coins view to which to apply the changes.
1824  * @param out The out point that corresponds to the tx input.
1825  * @return True on success.
1826  */
1827 static bool ApplyTxInUndo(const CTxInUndo& undo, CCoinsViewCache& view, const COutPoint& out)
1828 {
1829     bool fClean = true;
1830
1831     CCoinsModifier coins = view.ModifyCoins(out.hash);
1832     if (undo.nHeight != 0) {
1833         // undo data contains height: this is the last output of the prevout tx being spent
1834         if (!coins->IsPruned())
1835             fClean = fClean && error("%s: undo data overwriting existing transaction", __func__);
1836         coins->Clear();
1837         coins->fCoinBase = undo.fCoinBase;
1838         coins->nHeight = undo.nHeight;
1839         coins->nVersion = undo.nVersion;
1840     } else {
1841         if (coins->IsPruned())
1842             fClean = fClean && error("%s: undo data adding output to missing transaction", __func__);
1843     }
1844     if (coins->IsAvailable(out.n))
1845         fClean = fClean && error("%s: undo data overwriting existing output", __func__);
1846     if (coins->vout.size() < out.n+1)
1847         coins->vout.resize(out.n+1);
1848     coins->vout[out.n] = undo.txout;
1849
1850     return fClean;
1851 }
1852
1853 bool DisconnectBlock(CBlock& block, CValidationState& state, CBlockIndex* pindex, CCoinsViewCache& view, bool* pfClean)
1854 {
1855     assert(pindex->GetBlockHash() == view.GetBestBlock());
1856
1857     if (pfClean)
1858         *pfClean = false;
1859
1860     bool fClean = true;
1861
1862     CBlockUndo blockUndo;
1863     CDiskBlockPos pos = pindex->GetUndoPos();
1864     if (pos.IsNull())
1865         return error("DisconnectBlock(): no undo data available");
1866     if (!UndoReadFromDisk(blockUndo, pos, pindex->pprev->GetBlockHash()))
1867         return error("DisconnectBlock(): failure reading undo data");
1868
1869     if (blockUndo.vtxundo.size() + 1 != block.vtx.size())
1870         return error("DisconnectBlock(): block and undo data inconsistent");
1871
1872     // undo transactions in reverse order
1873     for (int i = block.vtx.size() - 1; i >= 0; i--) {
1874         const CTransaction &tx = block.vtx[i];
1875         uint256 hash = tx.GetHash();
1876
1877         // Check that all outputs are available and match the outputs in the block itself
1878         // exactly.
1879         {
1880         CCoinsModifier outs = view.ModifyCoins(hash);
1881         outs->ClearUnspendable();
1882
1883         CCoins outsBlock(tx, pindex->nHeight);
1884         // The CCoins serialization does not serialize negative numbers.
1885         // No network rules currently depend on the version here, so an inconsistency is harmless
1886         // but it must be corrected before txout nversion ever influences a network rule.
1887         if (outsBlock.nVersion < 0)
1888             outs->nVersion = outsBlock.nVersion;
1889         if (*outs != outsBlock)
1890             fClean = fClean && error("DisconnectBlock(): added transaction mismatch? database corrupted");
1891
1892         // remove outputs
1893         outs->Clear();
1894         }
1895
1896         // unspend nullifiers
1897         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1898             BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1899                 view.SetNullifier(nf, false);
1900             }
1901         }
1902
1903         // restore inputs
1904         if (i > 0) { // not coinbases
1905             const CTxUndo &txundo = blockUndo.vtxundo[i-1];
1906             if (txundo.vprevout.size() != tx.vin.size())
1907                 return error("DisconnectBlock(): transaction and undo data inconsistent");
1908             for (unsigned int j = tx.vin.size(); j-- > 0;) {
1909                 const COutPoint &out = tx.vin[j].prevout;
1910                 const CTxInUndo &undo = txundo.vprevout[j];
1911                 if (!ApplyTxInUndo(undo, view, out))
1912                     fClean = false;
1913             }
1914         }
1915     }
1916
1917     // set the old best anchor back
1918     view.PopAnchor(blockUndo.old_tree_root);
1919
1920     // move best block pointer to prevout block
1921     view.SetBestBlock(pindex->pprev->GetBlockHash());
1922
1923     if (pfClean) {
1924         *pfClean = fClean;
1925         return true;
1926     }
1927
1928     return fClean;
1929 }
1930
1931 void static FlushBlockFile(bool fFinalize = false)
1932 {
1933     LOCK(cs_LastBlockFile);
1934
1935     CDiskBlockPos posOld(nLastBlockFile, 0);
1936
1937     FILE *fileOld = OpenBlockFile(posOld);
1938     if (fileOld) {
1939         if (fFinalize)
1940             TruncateFile(fileOld, vinfoBlockFile[nLastBlockFile].nSize);
1941         FileCommit(fileOld);
1942         fclose(fileOld);
1943     }
1944
1945     fileOld = OpenUndoFile(posOld);
1946     if (fileOld) {
1947         if (fFinalize)
1948             TruncateFile(fileOld, vinfoBlockFile[nLastBlockFile].nUndoSize);
1949         FileCommit(fileOld);
1950         fclose(fileOld);
1951     }
1952 }
1953
1954 bool FindUndoPos(CValidationState &state, int nFile, CDiskBlockPos &pos, unsigned int nAddSize);
1955
1956 static CCheckQueue<CScriptCheck> scriptcheckqueue(128);
1957
1958 void ThreadScriptCheck() {
1959     RenameThread("zcash-scriptch");
1960     scriptcheckqueue.Thread();
1961 }
1962
1963 //
1964 // Called periodically asynchronously; alerts if it smells like
1965 // we're being fed a bad chain (blocks being generated much
1966 // too slowly or too quickly).
1967 //
1968 void PartitionCheck(bool (*initialDownloadCheck)(), CCriticalSection& cs, const CBlockIndex *const &bestHeader,
1969                     int64_t nPowTargetSpacing)
1970 {
1971     if (bestHeader == NULL || initialDownloadCheck()) return;
1972
1973     static int64_t lastAlertTime = 0;
1974     int64_t now = GetAdjustedTime();
1975     if (lastAlertTime > now-60*60*24) return; // Alert at most once per day
1976
1977     const int SPAN_HOURS=4;
1978     const int SPAN_SECONDS=SPAN_HOURS*60*60;
1979     int BLOCKS_EXPECTED = SPAN_SECONDS / nPowTargetSpacing;
1980
1981     boost::math::poisson_distribution<double> poisson(BLOCKS_EXPECTED);
1982
1983     std::string strWarning;
1984     int64_t startTime = GetAdjustedTime()-SPAN_SECONDS;
1985
1986     LOCK(cs);
1987     const CBlockIndex* i = bestHeader;
1988     int nBlocks = 0;
1989     while (i->GetBlockTime() >= startTime) {
1990         ++nBlocks;
1991         i = i->pprev;
1992         if (i == NULL) return; // Ran out of chain, we must not be fully sync'ed
1993     }
1994
1995     // How likely is it to find that many by chance?
1996     double p = boost::math::pdf(poisson, nBlocks);
1997
1998     LogPrint("partitioncheck", "%s : Found %d blocks in the last %d hours\n", __func__, nBlocks, SPAN_HOURS);
1999     LogPrint("partitioncheck", "%s : likelihood: %g\n", __func__, p);
2000
2001     // Aim for one false-positive about every fifty years of normal running:
2002     const int FIFTY_YEARS = 50*365*24*60*60;
2003     double alertThreshold = 1.0 / (FIFTY_YEARS / SPAN_SECONDS);
2004
2005     if (p <= alertThreshold && nBlocks < BLOCKS_EXPECTED)
2006     {
2007         // Many fewer blocks than expected: alert!
2008         strWarning = strprintf(_("WARNING: check your network connection, %d blocks received in the last %d hours (%d expected)"),
2009                                nBlocks, SPAN_HOURS, BLOCKS_EXPECTED);
2010     }
2011     else if (p <= alertThreshold && nBlocks > BLOCKS_EXPECTED)
2012     {
2013         // Many more blocks than expected: alert!
2014         strWarning = strprintf(_("WARNING: abnormally high number of blocks generated, %d blocks received in the last %d hours (%d expected)"),
2015                                nBlocks, SPAN_HOURS, BLOCKS_EXPECTED);
2016     }
2017     if (!strWarning.empty())
2018     {
2019         strMiscWarning = strWarning;
2020         CAlert::Notify(strWarning, true);
2021         lastAlertTime = now;
2022     }
2023 }
2024
2025 static int64_t nTimeVerify = 0;
2026 static int64_t nTimeConnect = 0;
2027 static int64_t nTimeIndex = 0;
2028 static int64_t nTimeCallbacks = 0;
2029 static int64_t nTimeTotal = 0;
2030
2031 bool ConnectBlock(const CBlock& block, CValidationState& state, CBlockIndex* pindex, CCoinsViewCache& view, bool fJustCheck)
2032 {
2033     const CChainParams& chainparams = Params();
2034     AssertLockHeld(cs_main);
2035
2036     bool fExpensiveChecks = true;
2037     if (fCheckpointsEnabled) {
2038         CBlockIndex *pindexLastCheckpoint = Checkpoints::GetLastCheckpoint(chainparams.Checkpoints());
2039         if (pindexLastCheckpoint && pindexLastCheckpoint->GetAncestor(pindex->nHeight) == pindex) {
2040             // This block is an ancestor of a checkpoint: disable script checks
2041             fExpensiveChecks = false;
2042         }
2043     }
2044
2045     auto verifier = libzcash::ProofVerifier::Strict();
2046     auto disabledVerifier = libzcash::ProofVerifier::Disabled();
2047
2048     // Check it again to verify JoinSplit proofs, and in case a previous version let a bad block in
2049     if (!CheckBlock(block, state, fExpensiveChecks ? verifier : disabledVerifier, !fJustCheck, !fJustCheck))
2050         return false;
2051
2052     // verify that the view's current state corresponds to the previous block
2053     uint256 hashPrevBlock = pindex->pprev == NULL ? uint256() : pindex->pprev->GetBlockHash();
2054     assert(hashPrevBlock == view.GetBestBlock());
2055
2056     // Special case for the genesis block, skipping connection of its transactions
2057     // (its coinbase is unspendable)
2058     if (block.GetHash() == chainparams.GetConsensus().hashGenesisBlock) {
2059         if (!fJustCheck) {
2060             view.SetBestBlock(pindex->GetBlockHash());
2061             // Before the genesis block, there was an empty tree
2062             ZCIncrementalMerkleTree tree;
2063             pindex->hashAnchor = tree.root();
2064             // The genesis block contained no JoinSplits
2065             pindex->hashAnchorEnd = pindex->hashAnchor;
2066         }
2067         return true;
2068     }
2069
2070     // Do not allow blocks that contain transactions which 'overwrite' older transactions,
2071     // unless those are already completely spent.
2072     BOOST_FOREACH(const CTransaction& tx, block.vtx) {
2073         const CCoins* coins = view.AccessCoins(tx.GetHash());
2074         if (coins && !coins->IsPruned())
2075             return state.DoS(100, error("ConnectBlock(): tried to overwrite transaction"),
2076                              REJECT_INVALID, "bad-txns-BIP30");
2077     }
2078
2079     unsigned int flags = SCRIPT_VERIFY_P2SH;
2080
2081     // Start enforcing the DERSIG (BIP66) rules, for block.nVersion=3 blocks,
2082     // when 75% of the network has upgraded:
2083     if (block.nVersion >= 3) {
2084         flags |= SCRIPT_VERIFY_DERSIG;
2085     }
2086
2087     // Start enforcing CHECKLOCKTIMEVERIFY, (BIP65) for block.nVersion=4
2088     // blocks, when 75% of the network has upgraded:
2089     if (block.nVersion >= 4) {
2090         flags |= SCRIPT_VERIFY_CHECKLOCKTIMEVERIFY;
2091     }
2092
2093     CBlockUndo blockundo;
2094
2095     CCheckQueueControl<CScriptCheck> control(fExpensiveChecks && nScriptCheckThreads ? &scriptcheckqueue : NULL);
2096
2097     int64_t nTimeStart = GetTimeMicros();
2098     CAmount nFees = 0;
2099     int nInputs = 0;
2100     unsigned int nSigOps = 0;
2101     CDiskTxPos pos(pindex->GetBlockPos(), GetSizeOfCompactSize(block.vtx.size()));
2102     std::vector<std::pair<uint256, CDiskTxPos> > vPos;
2103     vPos.reserve(block.vtx.size());
2104     blockundo.vtxundo.reserve(block.vtx.size() - 1);
2105
2106     // Construct the incremental merkle tree at the current
2107     // block position,
2108     auto old_tree_root = view.GetBestAnchor();
2109     // saving the top anchor in the block index as we go.
2110     if (!fJustCheck) {
2111         pindex->hashAnchor = old_tree_root;
2112     }
2113     ZCIncrementalMerkleTree tree;
2114     // This should never fail: we should always be able to get the root
2115     // that is on the tip of our chain
2116     assert(view.GetAnchorAt(old_tree_root, tree));
2117
2118     {
2119         // Consistency check: the root of the tree we're given should
2120         // match what we asked for.
2121         assert(tree.root() == old_tree_root);
2122     }
2123
2124     for (unsigned int i = 0; i < block.vtx.size(); i++)
2125     {
2126         const CTransaction &tx = block.vtx[i];
2127
2128         nInputs += tx.vin.size();
2129         nSigOps += GetLegacySigOpCount(tx);
2130         if (nSigOps > MAX_BLOCK_SIGOPS)
2131             return state.DoS(100, error("ConnectBlock(): too many sigops"),
2132                              REJECT_INVALID, "bad-blk-sigops");
2133
2134         if (!tx.IsCoinBase())
2135         {
2136             if (!view.HaveInputs(tx))
2137                 return state.DoS(100, error("ConnectBlock(): inputs missing/spent"),
2138                                  REJECT_INVALID, "bad-txns-inputs-missingorspent");
2139
2140             // are the JoinSplit's requirements met?
2141             if (!view.HaveJoinSplitRequirements(tx))
2142                 return state.DoS(100, error("ConnectBlock(): JoinSplit requirements not met"),
2143                                  REJECT_INVALID, "bad-txns-joinsplit-requirements-not-met");
2144
2145             // Add in sigops done by pay-to-script-hash inputs;
2146             // this is to prevent a "rogue miner" from creating
2147             // an incredibly-expensive-to-validate block.
2148             nSigOps += GetP2SHSigOpCount(tx, view);
2149             if (nSigOps > MAX_BLOCK_SIGOPS)
2150                 return state.DoS(100, error("ConnectBlock(): too many sigops"),
2151                                  REJECT_INVALID, "bad-blk-sigops");
2152
2153             nFees += view.GetValueIn(tx)-tx.GetValueOut();
2154
2155             std::vector<CScriptCheck> vChecks;
2156             if (!ContextualCheckInputs(tx, state, view, fExpensiveChecks, flags, false, chainparams.GetConsensus(), nScriptCheckThreads ? &vChecks : NULL))
2157                 return false;
2158             control.Add(vChecks);
2159         }
2160
2161         CTxUndo undoDummy;
2162         if (i > 0) {
2163             blockundo.vtxundo.push_back(CTxUndo());
2164         }
2165         UpdateCoins(tx, state, view, i == 0 ? undoDummy : blockundo.vtxundo.back(), pindex->nHeight);
2166
2167         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
2168             BOOST_FOREACH(const uint256 &note_commitment, joinsplit.commitments) {
2169                 // Insert the note commitments into our temporary tree.
2170
2171                 tree.append(note_commitment);
2172             }
2173         }
2174
2175         vPos.push_back(std::make_pair(tx.GetHash(), pos));
2176         pos.nTxOffset += ::GetSerializeSize(tx, SER_DISK, CLIENT_VERSION);
2177     }
2178
2179     view.PushAnchor(tree);
2180     if (!fJustCheck) {
2181         pindex->hashAnchorEnd = tree.root();
2182     }
2183     blockundo.old_tree_root = old_tree_root;
2184
2185     int64_t nTime1 = GetTimeMicros(); nTimeConnect += nTime1 - nTimeStart;
2186     LogPrint("bench", "      - Connect %u transactions: %.2fms (%.3fms/tx, %.3fms/txin) [%.2fs]\n", (unsigned)block.vtx.size(), 0.001 * (nTime1 - nTimeStart), 0.001 * (nTime1 - nTimeStart) / block.vtx.size(), nInputs <= 1 ? 0 : 0.001 * (nTime1 - nTimeStart) / (nInputs-1), nTimeConnect * 0.000001);
2187
2188     CAmount blockReward = nFees + GetBlockSubsidy(pindex->nHeight, chainparams.GetConsensus());
2189     if (block.vtx[0].GetValueOut() > blockReward)
2190         return state.DoS(100,
2191                          error("ConnectBlock(): coinbase pays too much (actual=%d vs limit=%d)",
2192                                block.vtx[0].GetValueOut(), blockReward),
2193                                REJECT_INVALID, "bad-cb-amount");
2194
2195     if (!control.Wait())
2196         return state.DoS(100, false);
2197     int64_t nTime2 = GetTimeMicros(); nTimeVerify += nTime2 - nTimeStart;
2198     LogPrint("bench", "    - Verify %u txins: %.2fms (%.3fms/txin) [%.2fs]\n", nInputs - 1, 0.001 * (nTime2 - nTimeStart), nInputs <= 1 ? 0 : 0.001 * (nTime2 - nTimeStart) / (nInputs-1), nTimeVerify * 0.000001);
2199
2200     if (fJustCheck)
2201         return true;
2202
2203     // Write undo information to disk
2204     if (pindex->GetUndoPos().IsNull() || !pindex->IsValid(BLOCK_VALID_SCRIPTS))
2205     {
2206         if (pindex->GetUndoPos().IsNull()) {
2207             CDiskBlockPos pos;
2208             if (!FindUndoPos(state, pindex->nFile, pos, ::GetSerializeSize(blockundo, SER_DISK, CLIENT_VERSION) + 40))
2209                 return error("ConnectBlock(): FindUndoPos failed");
2210             if (!UndoWriteToDisk(blockundo, pos, pindex->pprev->GetBlockHash(), chainparams.MessageStart()))
2211                 return AbortNode(state, "Failed to write undo data");
2212
2213             // update nUndoPos in block index
2214             pindex->nUndoPos = pos.nPos;
2215             pindex->nStatus |= BLOCK_HAVE_UNDO;
2216         }
2217
2218         pindex->RaiseValidity(BLOCK_VALID_SCRIPTS);
2219         setDirtyBlockIndex.insert(pindex);
2220     }
2221
2222     if (fTxIndex)
2223         if (!pblocktree->WriteTxIndex(vPos))
2224             return AbortNode(state, "Failed to write transaction index");
2225
2226     // add this block to the view's block chain
2227     view.SetBestBlock(pindex->GetBlockHash());
2228
2229     int64_t nTime3 = GetTimeMicros(); nTimeIndex += nTime3 - nTime2;
2230     LogPrint("bench", "    - Index writing: %.2fms [%.2fs]\n", 0.001 * (nTime3 - nTime2), nTimeIndex * 0.000001);
2231
2232     // Watch for changes to the previous coinbase transaction.
2233     static uint256 hashPrevBestCoinBase;
2234     GetMainSignals().UpdatedTransaction(hashPrevBestCoinBase);
2235     hashPrevBestCoinBase = block.vtx[0].GetHash();
2236
2237     int64_t nTime4 = GetTimeMicros(); nTimeCallbacks += nTime4 - nTime3;
2238     LogPrint("bench", "    - Callbacks: %.2fms [%.2fs]\n", 0.001 * (nTime4 - nTime3), nTimeCallbacks * 0.000001);
2239
2240     return true;
2241 }
2242
2243 enum FlushStateMode {
2244     FLUSH_STATE_NONE,
2245     FLUSH_STATE_IF_NEEDED,
2246     FLUSH_STATE_PERIODIC,
2247     FLUSH_STATE_ALWAYS
2248 };
2249
2250 /**
2251  * Update the on-disk chain state.
2252  * The caches and indexes are flushed depending on the mode we're called with
2253  * if they're too large, if it's been a while since the last write,
2254  * or always and in all cases if we're in prune mode and are deleting files.
2255  */
2256 bool static FlushStateToDisk(CValidationState &state, FlushStateMode mode) {
2257     LOCK2(cs_main, cs_LastBlockFile);
2258     static int64_t nLastWrite = 0;
2259     static int64_t nLastFlush = 0;
2260     static int64_t nLastSetChain = 0;
2261     std::set<int> setFilesToPrune;
2262     bool fFlushForPrune = false;
2263     try {
2264     if (fPruneMode && fCheckForPruning && !fReindex) {
2265         FindFilesToPrune(setFilesToPrune);
2266         fCheckForPruning = false;
2267         if (!setFilesToPrune.empty()) {
2268             fFlushForPrune = true;
2269             if (!fHavePruned) {
2270                 pblocktree->WriteFlag("prunedblockfiles", true);
2271                 fHavePruned = true;
2272             }
2273         }
2274     }
2275     int64_t nNow = GetTimeMicros();
2276     // Avoid writing/flushing immediately after startup.
2277     if (nLastWrite == 0) {
2278         nLastWrite = nNow;
2279     }
2280     if (nLastFlush == 0) {
2281         nLastFlush = nNow;
2282     }
2283     if (nLastSetChain == 0) {
2284         nLastSetChain = nNow;
2285     }
2286     size_t cacheSize = pcoinsTip->DynamicMemoryUsage();
2287     // The cache is large and close to the limit, but we have time now (not in the middle of a block processing).
2288     bool fCacheLarge = mode == FLUSH_STATE_PERIODIC && cacheSize * (10.0/9) > nCoinCacheUsage;
2289     // The cache is over the limit, we have to write now.
2290     bool fCacheCritical = mode == FLUSH_STATE_IF_NEEDED && cacheSize > nCoinCacheUsage;
2291     // It's been a while since we wrote the block index to disk. Do this frequently, so we don't need to redownload after a crash.
2292     bool fPeriodicWrite = mode == FLUSH_STATE_PERIODIC && nNow > nLastWrite + (int64_t)DATABASE_WRITE_INTERVAL * 1000000;
2293     // It's been very long since we flushed the cache. Do this infrequently, to optimize cache usage.
2294     bool fPeriodicFlush = mode == FLUSH_STATE_PERIODIC && nNow > nLastFlush + (int64_t)DATABASE_FLUSH_INTERVAL * 1000000;
2295     // Combine all conditions that result in a full cache flush.
2296     bool fDoFullFlush = (mode == FLUSH_STATE_ALWAYS) || fCacheLarge || fCacheCritical || fPeriodicFlush || fFlushForPrune;
2297     // Write blocks and block index to disk.
2298     if (fDoFullFlush || fPeriodicWrite) {
2299         // Depend on nMinDiskSpace to ensure we can write block index
2300         if (!CheckDiskSpace(0))
2301             return state.Error("out of disk space");
2302         // First make sure all block and undo data is flushed to disk.
2303         FlushBlockFile();
2304         // Then update all block file information (which may refer to block and undo files).
2305         {
2306             std::vector<std::pair<int, const CBlockFileInfo*> > vFiles;
2307             vFiles.reserve(setDirtyFileInfo.size());
2308             for (set<int>::iterator it = setDirtyFileInfo.begin(); it != setDirtyFileInfo.end(); ) {
2309                 vFiles.push_back(make_pair(*it, &vinfoBlockFile[*it]));
2310                 setDirtyFileInfo.erase(it++);
2311             }
2312             std::vector<const CBlockIndex*> vBlocks;
2313             vBlocks.reserve(setDirtyBlockIndex.size());
2314             for (set<CBlockIndex*>::iterator it = setDirtyBlockIndex.begin(); it != setDirtyBlockIndex.end(); ) {
2315                 vBlocks.push_back(*it);
2316                 setDirtyBlockIndex.erase(it++);
2317             }
2318             if (!pblocktree->WriteBatchSync(vFiles, nLastBlockFile, vBlocks)) {
2319                 return AbortNode(state, "Files to write to block index database");
2320             }
2321         }
2322         // Finally remove any pruned files
2323         if (fFlushForPrune)
2324             UnlinkPrunedFiles(setFilesToPrune);
2325         nLastWrite = nNow;
2326     }
2327     // Flush best chain related state. This can only be done if the blocks / block index write was also done.
2328     if (fDoFullFlush) {
2329         // Typical CCoins structures on disk are around 128 bytes in size.
2330         // Pushing a new one to the database can cause it to be written
2331         // twice (once in the log, and once in the tables). This is already
2332         // an overestimation, as most will delete an existing entry or
2333         // overwrite one. Still, use a conservative safety factor of 2.
2334         if (!CheckDiskSpace(128 * 2 * 2 * pcoinsTip->GetCacheSize()))
2335             return state.Error("out of disk space");
2336         // Flush the chainstate (which may refer to block index entries).
2337         if (!pcoinsTip->Flush())
2338             return AbortNode(state, "Failed to write to coin database");
2339         nLastFlush = nNow;
2340     }
2341     if ((mode == FLUSH_STATE_ALWAYS || mode == FLUSH_STATE_PERIODIC) && nNow > nLastSetChain + (int64_t)DATABASE_WRITE_INTERVAL * 1000000) {
2342         // Update best block in wallet (so we can detect restored wallets).
2343         GetMainSignals().SetBestChain(chainActive.GetLocator());
2344         nLastSetChain = nNow;
2345     }
2346     } catch (const std::runtime_error& e) {
2347         return AbortNode(state, std::string("System error while flushing: ") + e.what());
2348     }
2349     return true;
2350 }
2351
2352 void FlushStateToDisk() {
2353     CValidationState state;
2354     FlushStateToDisk(state, FLUSH_STATE_ALWAYS);
2355 }
2356
2357 void PruneAndFlush() {
2358     CValidationState state;
2359     fCheckForPruning = true;
2360     FlushStateToDisk(state, FLUSH_STATE_NONE);
2361 }
2362
2363 /** Update chainActive and related internal data structures. */
2364 void static UpdateTip(CBlockIndex *pindexNew) {
2365     const CChainParams& chainParams = Params();
2366     chainActive.SetTip(pindexNew);
2367
2368     // New best block
2369     nTimeBestReceived = GetTime();
2370     mempool.AddTransactionsUpdated(1);
2371
2372     LogPrintf("%s: new best=%s  height=%d  log2_work=%.8g  tx=%lu  date=%s progress=%f  cache=%.1fMiB(%utx)\n", __func__,
2373       chainActive.Tip()->GetBlockHash().ToString(), chainActive.Height(), log(chainActive.Tip()->nChainWork.getdouble())/log(2.0), (unsigned long)chainActive.Tip()->nChainTx,
2374       DateTimeStrFormat("%Y-%m-%d %H:%M:%S", chainActive.Tip()->GetBlockTime()),
2375       Checkpoints::GuessVerificationProgress(chainParams.Checkpoints(), chainActive.Tip()), pcoinsTip->DynamicMemoryUsage() * (1.0 / (1<<20)), pcoinsTip->GetCacheSize());
2376
2377     cvBlockChange.notify_all();
2378
2379     // Check the version of the last 100 blocks to see if we need to upgrade:
2380     static bool fWarned = false;
2381     if (!IsInitialBlockDownload() && !fWarned)
2382     {
2383         int nUpgraded = 0;
2384         const CBlockIndex* pindex = chainActive.Tip();
2385         for (int i = 0; i < 100 && pindex != NULL; i++)
2386         {
2387             if (pindex->nVersion > CBlock::CURRENT_VERSION)
2388                 ++nUpgraded;
2389             pindex = pindex->pprev;
2390         }
2391         if (nUpgraded > 0)
2392             LogPrintf("%s: %d of last 100 blocks above version %d\n", __func__, nUpgraded, (int)CBlock::CURRENT_VERSION);
2393         if (nUpgraded > 100/2)
2394         {
2395             // strMiscWarning is read by GetWarnings(), called by the JSON-RPC code to warn the user:
2396             strMiscWarning = _("Warning: This version is obsolete; upgrade required!");
2397             CAlert::Notify(strMiscWarning, true);
2398             fWarned = true;
2399         }
2400     }
2401 }
2402
2403 /** Disconnect chainActive's tip. */
2404 bool static DisconnectTip(CValidationState &state) {
2405     CBlockIndex *pindexDelete = chainActive.Tip();
2406     assert(pindexDelete);
2407     mempool.check(pcoinsTip);
2408     // Read block from disk.
2409     CBlock block;
2410     if (!ReadBlockFromDisk(block, pindexDelete))
2411         return AbortNode(state, "Failed to read block");
2412     // Apply the block atomically to the chain state.
2413     uint256 anchorBeforeDisconnect = pcoinsTip->GetBestAnchor();
2414     int64_t nStart = GetTimeMicros();
2415     {
2416         CCoinsViewCache view(pcoinsTip);
2417         if (!DisconnectBlock(block, state, pindexDelete, view))
2418             return error("DisconnectTip(): DisconnectBlock %s failed", pindexDelete->GetBlockHash().ToString());
2419         assert(view.Flush());
2420     }
2421     LogPrint("bench", "- Disconnect block: %.2fms\n", (GetTimeMicros() - nStart) * 0.001);
2422     uint256 anchorAfterDisconnect = pcoinsTip->GetBestAnchor();
2423     // Write the chain state to disk, if necessary.
2424     if (!FlushStateToDisk(state, FLUSH_STATE_IF_NEEDED))
2425         return false;
2426     // Resurrect mempool transactions from the disconnected block.
2427     BOOST_FOREACH(const CTransaction &tx, block.vtx) {
2428         // ignore validation errors in resurrected transactions
2429         list<CTransaction> removed;
2430         CValidationState stateDummy;
2431         if (tx.IsCoinBase() || !AcceptToMemoryPool(mempool, stateDummy, tx, false, NULL))
2432             mempool.remove(tx, removed, true);
2433     }
2434     if (anchorBeforeDisconnect != anchorAfterDisconnect) {
2435         // The anchor may not change between block disconnects,
2436         // in which case we don't want to evict from the mempool yet!
2437         mempool.removeWithAnchor(anchorBeforeDisconnect);
2438     }
2439     mempool.removeCoinbaseSpends(pcoinsTip, pindexDelete->nHeight);
2440     mempool.check(pcoinsTip);
2441     // Update chainActive and related variables.
2442     UpdateTip(pindexDelete->pprev);
2443     // Get the current commitment tree
2444     ZCIncrementalMerkleTree newTree;
2445     assert(pcoinsTip->GetAnchorAt(pcoinsTip->GetBestAnchor(), newTree));
2446     // Let wallets know transactions went from 1-confirmed to
2447     // 0-confirmed or conflicted:
2448     BOOST_FOREACH(const CTransaction &tx, block.vtx) {
2449         SyncWithWallets(tx, NULL);
2450     }
2451     // Update cached incremental witnesses
2452     GetMainSignals().ChainTip(pindexDelete, &block, newTree, false);
2453     return true;
2454 }
2455
2456 static int64_t nTimeReadFromDisk = 0;
2457 static int64_t nTimeConnectTotal = 0;
2458 static int64_t nTimeFlush = 0;
2459 static int64_t nTimeChainState = 0;
2460 static int64_t nTimePostConnect = 0;
2461
2462 /**
2463  * Connect a new block to chainActive. pblock is either NULL or a pointer to a CBlock
2464  * corresponding to pindexNew, to bypass loading it again from disk.
2465  */
2466 bool static ConnectTip(CValidationState &state, CBlockIndex *pindexNew, CBlock *pblock) {
2467     assert(pindexNew->pprev == chainActive.Tip());
2468     mempool.check(pcoinsTip);
2469     // Read block from disk.
2470     int64_t nTime1 = GetTimeMicros();
2471     CBlock block;
2472     if (!pblock) {
2473         if (!ReadBlockFromDisk(block, pindexNew))
2474             return AbortNode(state, "Failed to read block");
2475         pblock = &block;
2476     }
2477     // Get the current commitment tree
2478     ZCIncrementalMerkleTree oldTree;
2479     assert(pcoinsTip->GetAnchorAt(pcoinsTip->GetBestAnchor(), oldTree));
2480     // Apply the block atomically to the chain state.
2481     int64_t nTime2 = GetTimeMicros(); nTimeReadFromDisk += nTime2 - nTime1;
2482     int64_t nTime3;
2483     LogPrint("bench", "  - Load block from disk: %.2fms [%.2fs]\n", (nTime2 - nTime1) * 0.001, nTimeReadFromDisk * 0.000001);
2484     {
2485         CCoinsViewCache view(pcoinsTip);
2486         bool rv = ConnectBlock(*pblock, state, pindexNew, view);
2487         GetMainSignals().BlockChecked(*pblock, state);
2488         if (!rv) {
2489             if (state.IsInvalid())
2490                 InvalidBlockFound(pindexNew, state);
2491             return error("ConnectTip(): ConnectBlock %s failed", pindexNew->GetBlockHash().ToString());
2492         }
2493         mapBlockSource.erase(pindexNew->GetBlockHash());
2494         nTime3 = GetTimeMicros(); nTimeConnectTotal += nTime3 - nTime2;
2495         LogPrint("bench", "  - Connect total: %.2fms [%.2fs]\n", (nTime3 - nTime2) * 0.001, nTimeConnectTotal * 0.000001);
2496         assert(view.Flush());
2497     }
2498     int64_t nTime4 = GetTimeMicros(); nTimeFlush += nTime4 - nTime3;
2499     LogPrint("bench", "  - Flush: %.2fms [%.2fs]\n", (nTime4 - nTime3) * 0.001, nTimeFlush * 0.000001);
2500     // Write the chain state to disk, if necessary.
2501     if (!FlushStateToDisk(state, FLUSH_STATE_IF_NEEDED))
2502         return false;
2503     int64_t nTime5 = GetTimeMicros(); nTimeChainState += nTime5 - nTime4;
2504     LogPrint("bench", "  - Writing chainstate: %.2fms [%.2fs]\n", (nTime5 - nTime4) * 0.001, nTimeChainState * 0.000001);
2505     // Remove conflicting transactions from the mempool.
2506     list<CTransaction> txConflicted;
2507     mempool.removeForBlock(pblock->vtx, pindexNew->nHeight, txConflicted, !IsInitialBlockDownload());
2508     mempool.check(pcoinsTip);
2509     // Update chainActive & related variables.
2510     UpdateTip(pindexNew);
2511     // Tell wallet about transactions that went from mempool
2512     // to conflicted:
2513     BOOST_FOREACH(const CTransaction &tx, txConflicted) {
2514         SyncWithWallets(tx, NULL);
2515     }
2516     // ... and about transactions that got confirmed:
2517     BOOST_FOREACH(const CTransaction &tx, pblock->vtx) {
2518         SyncWithWallets(tx, pblock);
2519     }
2520     // Update cached incremental witnesses
2521     GetMainSignals().ChainTip(pindexNew, pblock, oldTree, true);
2522
2523     int64_t nTime6 = GetTimeMicros(); nTimePostConnect += nTime6 - nTime5; nTimeTotal += nTime6 - nTime1;
2524     LogPrint("bench", "  - Connect postprocess: %.2fms [%.2fs]\n", (nTime6 - nTime5) * 0.001, nTimePostConnect * 0.000001);
2525     LogPrint("bench", "- Connect block: %.2fms [%.2fs]\n", (nTime6 - nTime1) * 0.001, nTimeTotal * 0.000001);
2526     return true;
2527 }
2528
2529 /**
2530  * Return the tip of the chain with the most work in it, that isn't
2531  * known to be invalid (it's however far from certain to be valid).
2532  */
2533 static CBlockIndex* FindMostWorkChain() {
2534     do {
2535         CBlockIndex *pindexNew = NULL;
2536
2537         // Find the best candidate header.
2538         {
2539             std::set<CBlockIndex*, CBlockIndexWorkComparator>::reverse_iterator it = setBlockIndexCandidates.rbegin();
2540             if (it == setBlockIndexCandidates.rend())
2541                 return NULL;
2542             pindexNew = *it;
2543         }
2544
2545         // Check whether all blocks on the path between the currently active chain and the candidate are valid.
2546         // Just going until the active chain is an optimization, as we know all blocks in it are valid already.
2547         CBlockIndex *pindexTest = pindexNew;
2548         bool fInvalidAncestor = false;
2549         while (pindexTest && !chainActive.Contains(pindexTest)) {
2550             assert(pindexTest->nChainTx || pindexTest->nHeight == 0);
2551
2552             // Pruned nodes may have entries in setBlockIndexCandidates for
2553             // which block files have been deleted.  Remove those as candidates
2554             // for the most work chain if we come across them; we can't switch
2555             // to a chain unless we have all the non-active-chain parent blocks.
2556             bool fFailedChain = pindexTest->nStatus & BLOCK_FAILED_MASK;
2557             bool fMissingData = !(pindexTest->nStatus & BLOCK_HAVE_DATA);
2558             if (fFailedChain || fMissingData) {
2559                 // Candidate chain is not usable (either invalid or missing data)
2560                 if (fFailedChain && (pindexBestInvalid == NULL || pindexNew->nChainWork > pindexBestInvalid->nChainWork))
2561                     pindexBestInvalid = pindexNew;
2562                 CBlockIndex *pindexFailed = pindexNew;
2563                 // Remove the entire chain from the set.
2564                 while (pindexTest != pindexFailed) {
2565                     if (fFailedChain) {
2566                         pindexFailed->nStatus |= BLOCK_FAILED_CHILD;
2567                     } else if (fMissingData) {
2568                         // If we're missing data, then add back to mapBlocksUnlinked,
2569                         // so that if the block arrives in the future we can try adding
2570                         // to setBlockIndexCandidates again.
2571                         mapBlocksUnlinked.insert(std::make_pair(pindexFailed->pprev, pindexFailed));
2572                     }
2573                     setBlockIndexCandidates.erase(pindexFailed);
2574                     pindexFailed = pindexFailed->pprev;
2575                 }
2576                 setBlockIndexCandidates.erase(pindexTest);
2577                 fInvalidAncestor = true;
2578                 break;
2579             }
2580             pindexTest = pindexTest->pprev;
2581         }
2582         if (!fInvalidAncestor)
2583             return pindexNew;
2584     } while(true);
2585 }
2586
2587 /** Delete all entries in setBlockIndexCandidates that are worse than the current tip. */
2588 static void PruneBlockIndexCandidates() {
2589     // Note that we can't delete the current block itself, as we may need to return to it later in case a
2590     // reorganization to a better block fails.
2591     std::set<CBlockIndex*, CBlockIndexWorkComparator>::iterator it = setBlockIndexCandidates.begin();
2592     while (it != setBlockIndexCandidates.end() && setBlockIndexCandidates.value_comp()(*it, chainActive.Tip())) {
2593         setBlockIndexCandidates.erase(it++);
2594     }
2595     // Either the current tip or a successor of it we're working towards is left in setBlockIndexCandidates.
2596     assert(!setBlockIndexCandidates.empty());
2597 }
2598
2599 /**
2600  * Try to make some progress towards making pindexMostWork the active block.
2601  * pblock is either NULL or a pointer to a CBlock corresponding to pindexMostWork.
2602  */
2603 static bool ActivateBestChainStep(CValidationState &state, CBlockIndex *pindexMostWork, CBlock *pblock) {
2604     AssertLockHeld(cs_main);
2605     bool fInvalidFound = false;
2606     const CBlockIndex *pindexOldTip = chainActive.Tip();
2607     const CBlockIndex *pindexFork = chainActive.FindFork(pindexMostWork);
2608
2609     // Disconnect active blocks which are no longer in the best chain.
2610     while (chainActive.Tip() && chainActive.Tip() != pindexFork) {
2611         if (!DisconnectTip(state))
2612             return false;
2613     }
2614
2615     // Build list of new blocks to connect.
2616     std::vector<CBlockIndex*> vpindexToConnect;
2617     bool fContinue = true;
2618     int nHeight = pindexFork ? pindexFork->nHeight : -1;
2619     while (fContinue && nHeight != pindexMostWork->nHeight) {
2620     // Don't iterate the entire list of potential improvements toward the best tip, as we likely only need
2621     // a few blocks along the way.
2622     int nTargetHeight = std::min(nHeight + 32, pindexMostWork->nHeight);
2623     vpindexToConnect.clear();
2624     vpindexToConnect.reserve(nTargetHeight - nHeight);
2625     CBlockIndex *pindexIter = pindexMostWork->GetAncestor(nTargetHeight);
2626     while (pindexIter && pindexIter->nHeight != nHeight) {
2627         vpindexToConnect.push_back(pindexIter);
2628         pindexIter = pindexIter->pprev;
2629     }
2630     nHeight = nTargetHeight;
2631
2632     // Connect new blocks.
2633     BOOST_REVERSE_FOREACH(CBlockIndex *pindexConnect, vpindexToConnect) {
2634         if (!ConnectTip(state, pindexConnect, pindexConnect == pindexMostWork ? pblock : NULL)) {
2635             if (state.IsInvalid()) {
2636                 // The block violates a consensus rule.
2637                 if (!state.CorruptionPossible())
2638                     InvalidChainFound(vpindexToConnect.back());
2639                 state = CValidationState();
2640                 fInvalidFound = true;
2641                 fContinue = false;
2642                 break;
2643             } else {
2644                 // A system error occurred (disk space, database error, ...).
2645                 return false;
2646             }
2647         } else {
2648             PruneBlockIndexCandidates();
2649             if (!pindexOldTip || chainActive.Tip()->nChainWork > pindexOldTip->nChainWork) {
2650                 // We're in a better position than we were. Return temporarily to release the lock.
2651                 fContinue = false;
2652                 break;
2653             }
2654         }
2655     }
2656     }
2657
2658     // Callbacks/notifications for a new best chain.
2659     if (fInvalidFound)
2660         CheckForkWarningConditionsOnNewFork(vpindexToConnect.back());
2661     else
2662         CheckForkWarningConditions();
2663
2664     return true;
2665 }
2666
2667 /**
2668  * Make the best chain active, in multiple steps. The result is either failure
2669  * or an activated best chain. pblock is either NULL or a pointer to a block
2670  * that is already loaded (to avoid loading it again from disk).
2671  */
2672 bool ActivateBestChain(CValidationState &state, CBlock *pblock) {
2673     CBlockIndex *pindexNewTip = NULL;
2674     CBlockIndex *pindexMostWork = NULL;
2675     const CChainParams& chainParams = Params();
2676     do {
2677         boost::this_thread::interruption_point();
2678
2679         bool fInitialDownload;
2680         {
2681             LOCK(cs_main);
2682             pindexMostWork = FindMostWorkChain();
2683
2684             // Whether we have anything to do at all.
2685             if (pindexMostWork == NULL || pindexMostWork == chainActive.Tip())
2686                 return true;
2687
2688             if (!ActivateBestChainStep(state, pindexMostWork, pblock && pblock->GetHash() == pindexMostWork->GetBlockHash() ? pblock : NULL))
2689                 return false;
2690
2691             pindexNewTip = chainActive.Tip();
2692             fInitialDownload = IsInitialBlockDownload();
2693         }
2694         // When we reach this point, we switched to a new tip (stored in pindexNewTip).
2695
2696         // Notifications/callbacks that can run without cs_main
2697         if (!fInitialDownload) {
2698             uint256 hashNewTip = pindexNewTip->GetBlockHash();
2699             // Relay inventory, but don't relay old inventory during initial block download.
2700             int nBlockEstimate = 0;
2701             if (fCheckpointsEnabled)
2702                 nBlockEstimate = Checkpoints::GetTotalBlocksEstimate(chainParams.Checkpoints());
2703             // Don't relay blocks if pruning -- could cause a peer to try to download, resulting
2704             // in a stalled download if the block file is pruned before the request.
2705             if (nLocalServices & NODE_NETWORK) {
2706                 LOCK(cs_vNodes);
2707                 BOOST_FOREACH(CNode* pnode, vNodes)
2708                     if (chainActive.Height() > (pnode->nStartingHeight != -1 ? pnode->nStartingHeight - 2000 : nBlockEstimate))
2709                         pnode->PushInventory(CInv(MSG_BLOCK, hashNewTip));
2710             }
2711             // Notify external listeners about the new tip.
2712             GetMainSignals().UpdatedBlockTip(pindexNewTip);
2713             uiInterface.NotifyBlockTip(hashNewTip);
2714         }
2715     } while(pindexMostWork != chainActive.Tip());
2716     CheckBlockIndex();
2717
2718     // Write changes periodically to disk, after relay.
2719     if (!FlushStateToDisk(state, FLUSH_STATE_PERIODIC)) {
2720         return false;
2721     }
2722
2723     return true;
2724 }
2725
2726 bool InvalidateBlock(CValidationState& state, CBlockIndex *pindex) {
2727     AssertLockHeld(cs_main);
2728
2729     // Mark the block itself as invalid.
2730     pindex->nStatus |= BLOCK_FAILED_VALID;
2731     setDirtyBlockIndex.insert(pindex);
2732     setBlockIndexCandidates.erase(pindex);
2733
2734     while (chainActive.Contains(pindex)) {
2735         CBlockIndex *pindexWalk = chainActive.Tip();
2736         pindexWalk->nStatus |= BLOCK_FAILED_CHILD;
2737         setDirtyBlockIndex.insert(pindexWalk);
2738         setBlockIndexCandidates.erase(pindexWalk);
2739         // ActivateBestChain considers blocks already in chainActive
2740         // unconditionally valid already, so force disconnect away from it.
2741         if (!DisconnectTip(state)) {
2742             return false;
2743         }
2744     }
2745
2746     // The resulting new best tip may not be in setBlockIndexCandidates anymore, so
2747     // add it again.
2748     BlockMap::iterator it = mapBlockIndex.begin();
2749     while (it != mapBlockIndex.end()) {
2750         if (it->second->IsValid(BLOCK_VALID_TRANSACTIONS) && it->second->nChainTx && !setBlockIndexCandidates.value_comp()(it->second, chainActive.Tip())) {
2751             setBlockIndexCandidates.insert(it->second);
2752         }
2753         it++;
2754     }
2755
2756     InvalidChainFound(pindex);
2757     return true;
2758 }
2759
2760 bool ReconsiderBlock(CValidationState& state, CBlockIndex *pindex) {
2761     AssertLockHeld(cs_main);
2762
2763     int nHeight = pindex->nHeight;
2764
2765     // Remove the invalidity flag from this block and all its descendants.
2766     BlockMap::iterator it = mapBlockIndex.begin();
2767     while (it != mapBlockIndex.end()) {
2768         if (!it->second->IsValid() && it->second->GetAncestor(nHeight) == pindex) {
2769             it->second->nStatus &= ~BLOCK_FAILED_MASK;
2770             setDirtyBlockIndex.insert(it->second);
2771             if (it->second->IsValid(BLOCK_VALID_TRANSACTIONS) && it->second->nChainTx && setBlockIndexCandidates.value_comp()(chainActive.Tip(), it->second)) {
2772                 setBlockIndexCandidates.insert(it->second);
2773             }
2774             if (it->second == pindexBestInvalid) {
2775                 // Reset invalid block marker if it was pointing to one of those.
2776                 pindexBestInvalid = NULL;
2777             }
2778         }
2779         it++;
2780     }
2781
2782     // Remove the invalidity flag from all ancestors too.
2783     while (pindex != NULL) {
2784         if (pindex->nStatus & BLOCK_FAILED_MASK) {
2785             pindex->nStatus &= ~BLOCK_FAILED_MASK;
2786             setDirtyBlockIndex.insert(pindex);
2787         }
2788         pindex = pindex->pprev;
2789     }
2790     return true;
2791 }
2792
2793 CBlockIndex* AddToBlockIndex(const CBlockHeader& block)
2794 {
2795     // Check for duplicate
2796     uint256 hash = block.GetHash();
2797     BlockMap::iterator it = mapBlockIndex.find(hash);
2798     if (it != mapBlockIndex.end())
2799         return it->second;
2800
2801     // Construct new block index object
2802     CBlockIndex* pindexNew = new CBlockIndex(block);
2803     assert(pindexNew);
2804     // We assign the sequence id to blocks only when the full data is available,
2805     // to avoid miners withholding blocks but broadcasting headers, to get a
2806     // competitive advantage.
2807     pindexNew->nSequenceId = 0;
2808     BlockMap::iterator mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
2809     pindexNew->phashBlock = &((*mi).first);
2810     BlockMap::iterator miPrev = mapBlockIndex.find(block.hashPrevBlock);
2811     if (miPrev != mapBlockIndex.end())
2812     {
2813         pindexNew->pprev = (*miPrev).second;
2814         pindexNew->nHeight = pindexNew->pprev->nHeight + 1;
2815         pindexNew->BuildSkip();
2816     }
2817     pindexNew->nChainWork = (pindexNew->pprev ? pindexNew->pprev->nChainWork : 0) + GetBlockProof(*pindexNew);
2818     pindexNew->RaiseValidity(BLOCK_VALID_TREE);
2819     if (pindexBestHeader == NULL || pindexBestHeader->nChainWork < pindexNew->nChainWork)
2820         pindexBestHeader = pindexNew;
2821
2822     setDirtyBlockIndex.insert(pindexNew);
2823
2824     return pindexNew;
2825 }
2826
2827 /** Mark a block as having its data received and checked (up to BLOCK_VALID_TRANSACTIONS). */
2828 bool ReceivedBlockTransactions(const CBlock &block, CValidationState& state, CBlockIndex *pindexNew, const CDiskBlockPos& pos)
2829 {
2830     pindexNew->nTx = block.vtx.size();
2831     pindexNew->nChainTx = 0;
2832     pindexNew->nFile = pos.nFile;
2833     pindexNew->nDataPos = pos.nPos;
2834     pindexNew->nUndoPos = 0;
2835     pindexNew->nStatus |= BLOCK_HAVE_DATA;
2836     pindexNew->RaiseValidity(BLOCK_VALID_TRANSACTIONS);
2837     setDirtyBlockIndex.insert(pindexNew);
2838
2839     if (pindexNew->pprev == NULL || pindexNew->pprev->nChainTx) {
2840         // If pindexNew is the genesis block or all parents are BLOCK_VALID_TRANSACTIONS.
2841         deque<CBlockIndex*> queue;
2842         queue.push_back(pindexNew);
2843
2844         // Recursively process any descendant blocks that now may be eligible to be connected.
2845         while (!queue.empty()) {
2846             CBlockIndex *pindex = queue.front();
2847             queue.pop_front();
2848             pindex->nChainTx = (pindex->pprev ? pindex->pprev->nChainTx : 0) + pindex->nTx;
2849             {
2850                 LOCK(cs_nBlockSequenceId);
2851                 pindex->nSequenceId = nBlockSequenceId++;
2852             }
2853             if (chainActive.Tip() == NULL || !setBlockIndexCandidates.value_comp()(pindex, chainActive.Tip())) {
2854                 setBlockIndexCandidates.insert(pindex);
2855             }
2856             std::pair<std::multimap<CBlockIndex*, CBlockIndex*>::iterator, std::multimap<CBlockIndex*, CBlockIndex*>::iterator> range = mapBlocksUnlinked.equal_range(pindex);
2857             while (range.first != range.second) {
2858                 std::multimap<CBlockIndex*, CBlockIndex*>::iterator it = range.first;
2859                 queue.push_back(it->second);
2860                 range.first++;
2861                 mapBlocksUnlinked.erase(it);
2862             }
2863         }
2864     } else {
2865         if (pindexNew->pprev && pindexNew->pprev->IsValid(BLOCK_VALID_TREE)) {
2866             mapBlocksUnlinked.insert(std::make_pair(pindexNew->pprev, pindexNew));
2867         }
2868     }
2869
2870     return true;
2871 }
2872
2873 bool FindBlockPos(CValidationState &state, CDiskBlockPos &pos, unsigned int nAddSize, unsigned int nHeight, uint64_t nTime, bool fKnown = false)
2874 {
2875     LOCK(cs_LastBlockFile);
2876
2877     unsigned int nFile = fKnown ? pos.nFile : nLastBlockFile;
2878     if (vinfoBlockFile.size() <= nFile) {
2879         vinfoBlockFile.resize(nFile + 1);
2880     }
2881
2882     if (!fKnown) {
2883         while (vinfoBlockFile[nFile].nSize + nAddSize >= MAX_BLOCKFILE_SIZE) {
2884             nFile++;
2885             if (vinfoBlockFile.size() <= nFile) {
2886                 vinfoBlockFile.resize(nFile + 1);
2887             }
2888         }
2889         pos.nFile = nFile;
2890         pos.nPos = vinfoBlockFile[nFile].nSize;
2891     }
2892
2893     if (nFile != nLastBlockFile) {
2894         if (!fKnown) {
2895             LogPrintf("Leaving block file %i: %s\n", nFile, vinfoBlockFile[nFile].ToString());
2896         }
2897         FlushBlockFile(!fKnown);
2898         nLastBlockFile = nFile;
2899     }
2900
2901     vinfoBlockFile[nFile].AddBlock(nHeight, nTime);
2902     if (fKnown)
2903         vinfoBlockFile[nFile].nSize = std::max(pos.nPos + nAddSize, vinfoBlockFile[nFile].nSize);
2904     else
2905         vinfoBlockFile[nFile].nSize += nAddSize;
2906
2907     if (!fKnown) {
2908         unsigned int nOldChunks = (pos.nPos + BLOCKFILE_CHUNK_SIZE - 1) / BLOCKFILE_CHUNK_SIZE;
2909         unsigned int nNewChunks = (vinfoBlockFile[nFile].nSize + BLOCKFILE_CHUNK_SIZE - 1) / BLOCKFILE_CHUNK_SIZE;
2910         if (nNewChunks > nOldChunks) {
2911             if (fPruneMode)
2912                 fCheckForPruning = true;
2913             if (CheckDiskSpace(nNewChunks * BLOCKFILE_CHUNK_SIZE - pos.nPos)) {
2914                 FILE *file = OpenBlockFile(pos);
2915                 if (file) {
2916                     LogPrintf("Pre-allocating up to position 0x%x in blk%05u.dat\n", nNewChunks * BLOCKFILE_CHUNK_SIZE, pos.nFile);
2917                     AllocateFileRange(file, pos.nPos, nNewChunks * BLOCKFILE_CHUNK_SIZE - pos.nPos);
2918                     fclose(file);
2919                 }
2920             }
2921             else
2922                 return state.Error("out of disk space");
2923         }
2924     }
2925
2926     setDirtyFileInfo.insert(nFile);
2927     return true;
2928 }
2929
2930 bool FindUndoPos(CValidationState &state, int nFile, CDiskBlockPos &pos, unsigned int nAddSize)
2931 {
2932     pos.nFile = nFile;
2933
2934     LOCK(cs_LastBlockFile);
2935
2936     unsigned int nNewSize;
2937     pos.nPos = vinfoBlockFile[nFile].nUndoSize;
2938     nNewSize = vinfoBlockFile[nFile].nUndoSize += nAddSize;
2939     setDirtyFileInfo.insert(nFile);
2940
2941     unsigned int nOldChunks = (pos.nPos + UNDOFILE_CHUNK_SIZE - 1) / UNDOFILE_CHUNK_SIZE;
2942     unsigned int nNewChunks = (nNewSize + UNDOFILE_CHUNK_SIZE - 1) / UNDOFILE_CHUNK_SIZE;
2943     if (nNewChunks > nOldChunks) {
2944         if (fPruneMode)
2945             fCheckForPruning = true;
2946         if (CheckDiskSpace(nNewChunks * UNDOFILE_CHUNK_SIZE - pos.nPos)) {
2947             FILE *file = OpenUndoFile(pos);
2948             if (file) {
2949                 LogPrintf("Pre-allocating up to position 0x%x in rev%05u.dat\n", nNewChunks * UNDOFILE_CHUNK_SIZE, pos.nFile);
2950                 AllocateFileRange(file, pos.nPos, nNewChunks * UNDOFILE_CHUNK_SIZE - pos.nPos);
2951                 fclose(file);
2952             }
2953         }
2954         else
2955             return state.Error("out of disk space");
2956     }
2957
2958     return true;
2959 }
2960
2961 bool CheckBlockHeader(const CBlockHeader& block, CValidationState& state, bool fCheckPOW)
2962 {
2963     // Check block version
2964     if (block.nVersion < MIN_BLOCK_VERSION)
2965         return state.DoS(100, error("CheckBlockHeader(): block version too low"),
2966                          REJECT_INVALID, "version-too-low");
2967
2968     // Check Equihash solution is valid
2969     if (fCheckPOW && !CheckEquihashSolution(&block, Params()))
2970         return state.DoS(100, error("CheckBlockHeader(): Equihash solution invalid"),
2971                          REJECT_INVALID, "invalid-solution");
2972
2973     // Check proof of work matches claimed amount
2974     if (fCheckPOW && !CheckProofOfWork(block.GetHash(), block.nBits, Params().GetConsensus()))
2975         return state.DoS(50, error("CheckBlockHeader(): proof of work failed"),
2976                          REJECT_INVALID, "high-hash");
2977
2978     // Check timestamp
2979     if (block.GetBlockTime() > GetAdjustedTime() + 2 * 60 * 60)
2980         return state.Invalid(error("CheckBlockHeader(): block timestamp too far in the future"),
2981                              REJECT_INVALID, "time-too-new");
2982
2983     return true;
2984 }
2985
2986 bool CheckBlock(const CBlock& block, CValidationState& state,
2987                 libzcash::ProofVerifier& verifier,
2988                 bool fCheckPOW, bool fCheckMerkleRoot)
2989 {
2990     // These are checks that are independent of context.
2991
2992     // Check that the header is valid (particularly PoW).  This is mostly
2993     // redundant with the call in AcceptBlockHeader.
2994     if (!CheckBlockHeader(block, state, fCheckPOW))
2995         return false;
2996
2997     // Check the merkle root.
2998     if (fCheckMerkleRoot) {
2999         bool mutated;
3000         uint256 hashMerkleRoot2 = block.BuildMerkleTree(&mutated);
3001         if (block.hashMerkleRoot != hashMerkleRoot2)
3002             return state.DoS(100, error("CheckBlock(): hashMerkleRoot mismatch"),
3003                              REJECT_INVALID, "bad-txnmrklroot", true);
3004
3005         // Check for merkle tree malleability (CVE-2012-2459): repeating sequences
3006         // of transactions in a block without affecting the merkle root of a block,
3007         // while still invalidating it.
3008         if (mutated)
3009             return state.DoS(100, error("CheckBlock(): duplicate transaction"),
3010                              REJECT_INVALID, "bad-txns-duplicate", true);
3011     }
3012
3013     // All potential-corruption validation must be done before we do any
3014     // transaction validation, as otherwise we may mark the header as invalid
3015     // because we receive the wrong transactions for it.
3016
3017     // Size limits
3018     if (block.vtx.empty() || block.vtx.size() > MAX_BLOCK_SIZE || ::GetSerializeSize(block, SER_NETWORK, PROTOCOL_VERSION) > MAX_BLOCK_SIZE)
3019         return state.DoS(100, error("CheckBlock(): size limits failed"),
3020                          REJECT_INVALID, "bad-blk-length");
3021
3022     // First transaction must be coinbase, the rest must not be
3023     if (block.vtx.empty() || !block.vtx[0].IsCoinBase())
3024         return state.DoS(100, error("CheckBlock(): first tx is not coinbase"),
3025                          REJECT_INVALID, "bad-cb-missing");
3026     for (unsigned int i = 1; i < block.vtx.size(); i++)
3027         if (block.vtx[i].IsCoinBase())
3028             return state.DoS(100, error("CheckBlock(): more than one coinbase"),
3029                              REJECT_INVALID, "bad-cb-multiple");
3030
3031     // Check transactions
3032     BOOST_FOREACH(const CTransaction& tx, block.vtx)
3033         if (!CheckTransaction(tx, state, verifier))
3034             return error("CheckBlock(): CheckTransaction failed");
3035
3036     unsigned int nSigOps = 0;
3037     BOOST_FOREACH(const CTransaction& tx, block.vtx)
3038     {
3039         nSigOps += GetLegacySigOpCount(tx);
3040     }
3041     if (nSigOps > MAX_BLOCK_SIGOPS)
3042         return state.DoS(100, error("CheckBlock(): out-of-bounds SigOpCount"),
3043                          REJECT_INVALID, "bad-blk-sigops", true);
3044
3045     return true;
3046 }
3047
3048 bool ContextualCheckBlockHeader(const CBlockHeader& block, CValidationState& state, CBlockIndex * const pindexPrev)
3049 {
3050     const CChainParams& chainParams = Params();
3051     const Consensus::Params& consensusParams = chainParams.GetConsensus();
3052     uint256 hash = block.GetHash();
3053     if (hash == consensusParams.hashGenesisBlock)
3054         return true;
3055
3056     assert(pindexPrev);
3057
3058     int nHeight = pindexPrev->nHeight+1;
3059
3060     // Check proof of work
3061     if (block.nBits != GetNextWorkRequired(pindexPrev, &block, consensusParams))
3062         return state.DoS(100, error("%s: incorrect proof of work", __func__),
3063                          REJECT_INVALID, "bad-diffbits");
3064
3065     // Check timestamp against prev
3066     if (block.GetBlockTime() <= pindexPrev->GetMedianTimePast())
3067         return state.Invalid(error("%s: block's timestamp is too early", __func__),
3068                              REJECT_INVALID, "time-too-old");
3069
3070     if (fCheckpointsEnabled)
3071     {
3072         // Don't accept any forks from the main chain prior to last checkpoint
3073         CBlockIndex* pcheckpoint = Checkpoints::GetLastCheckpoint(chainParams.Checkpoints());
3074         if (pcheckpoint && nHeight < pcheckpoint->nHeight)
3075             return state.DoS(100, error("%s: forked chain older than last checkpoint (height %d)", __func__, nHeight));
3076     }
3077
3078     // Reject block.nVersion < 4 blocks
3079     if (block.nVersion < 4)
3080         return state.Invalid(error("%s : rejected nVersion<4 block", __func__),
3081                              REJECT_OBSOLETE, "bad-version");
3082
3083     return true;
3084 }
3085
3086 bool ContextualCheckBlock(const CBlock& block, CValidationState& state, CBlockIndex * const pindexPrev)
3087 {
3088     const int nHeight = pindexPrev == NULL ? 0 : pindexPrev->nHeight + 1;
3089     const Consensus::Params& consensusParams = Params().GetConsensus();
3090
3091     // Check that all transactions are finalized
3092     BOOST_FOREACH(const CTransaction& tx, block.vtx) {
3093         int nLockTimeFlags = 0;
3094         int64_t nLockTimeCutoff = (nLockTimeFlags & LOCKTIME_MEDIAN_TIME_PAST)
3095                                 ? pindexPrev->GetMedianTimePast()
3096                                 : block.GetBlockTime();
3097         if (!IsFinalTx(tx, nHeight, nLockTimeCutoff)) {
3098             return state.DoS(10, error("%s: contains a non-final transaction", __func__), REJECT_INVALID, "bad-txns-nonfinal");
3099         }
3100     }
3101
3102     // Enforce block.nVersion=2 rule that the coinbase starts with serialized block height
3103     // if 750 of the last 1,000 blocks are version 2 or greater (51/100 if testnet):
3104     // Since MIN_BLOCK_VERSION = 4 all blocks with nHeight > 0 should satisfy this.
3105     // This rule is not applied to the genesis block, which didn't include the height
3106     // in the coinbase.
3107     if (nHeight > 0)
3108     {
3109         CScript expect = CScript() << nHeight;
3110         if (block.vtx[0].vin[0].scriptSig.size() < expect.size() ||
3111             !std::equal(expect.begin(), expect.end(), block.vtx[0].vin[0].scriptSig.begin())) {
3112             return state.DoS(100, error("%s: block height mismatch in coinbase", __func__), REJECT_INVALID, "bad-cb-height");
3113         }
3114     }
3115
3116     // Coinbase transaction must include an output sending 20% of
3117     // the block reward to a founders reward script, until the last founders
3118     // reward block is reached, with exception of the genesis block.
3119     // The last founders reward block is defined as the block just before the
3120     // first subsidy halving block, which occurs at halving_interval + slow_start_shift
3121     if ((nHeight > 0) && (nHeight <= consensusParams.GetLastFoundersRewardBlockHeight())) {
3122         bool found = false;
3123
3124         BOOST_FOREACH(const CTxOut& output, block.vtx[0].vout) {
3125             if (output.scriptPubKey == Params().GetFoundersRewardScriptAtHeight(nHeight)) {
3126                 if (output.nValue == (GetBlockSubsidy(nHeight, consensusParams) / 5)) {
3127                     found = true;
3128                     break;
3129                 }
3130             }
3131         }
3132
3133         if (!found) {
3134             return state.DoS(100, error("%s: founders reward missing", __func__), REJECT_INVALID, "cb-no-founders-reward");
3135         }
3136     }
3137
3138     return true;
3139 }
3140
3141 bool AcceptBlockHeader(const CBlockHeader& block, CValidationState& state, CBlockIndex** ppindex)
3142 {
3143     const CChainParams& chainparams = Params();
3144     AssertLockHeld(cs_main);
3145     // Check for duplicate
3146     uint256 hash = block.GetHash();
3147     BlockMap::iterator miSelf = mapBlockIndex.find(hash);
3148     CBlockIndex *pindex = NULL;
3149     if (miSelf != mapBlockIndex.end()) {
3150         // Block header is already known.
3151         pindex = miSelf->second;
3152         if (ppindex)
3153             *ppindex = pindex;
3154         if (pindex->nStatus & BLOCK_FAILED_MASK)
3155             return state.Invalid(error("%s: block is marked invalid", __func__), 0, "duplicate");
3156         return true;
3157     }
3158
3159     if (!CheckBlockHeader(block, state))
3160         return false;
3161
3162     // Get prev block index
3163     CBlockIndex* pindexPrev = NULL;
3164     if (hash != chainparams.GetConsensus().hashGenesisBlock) {
3165         BlockMap::iterator mi = mapBlockIndex.find(block.hashPrevBlock);
3166         if (mi == mapBlockIndex.end())
3167             return state.DoS(10, error("%s: prev block not found", __func__), 0, "bad-prevblk");
3168         pindexPrev = (*mi).second;
3169         if (pindexPrev->nStatus & BLOCK_FAILED_MASK)
3170             return state.DoS(100, error("%s: prev block invalid", __func__), REJECT_INVALID, "bad-prevblk");
3171     }
3172
3173     if (!ContextualCheckBlockHeader(block, state, pindexPrev))
3174         return false;
3175
3176     if (pindex == NULL)
3177         pindex = AddToBlockIndex(block);
3178
3179     if (ppindex)
3180         *ppindex = pindex;
3181
3182     return true;
3183 }
3184
3185 bool AcceptBlock(CBlock& block, CValidationState& state, CBlockIndex** ppindex, bool fRequested, CDiskBlockPos* dbp)
3186 {
3187     const CChainParams& chainparams = Params();
3188     AssertLockHeld(cs_main);
3189
3190     CBlockIndex *&pindex = *ppindex;
3191
3192     if (!AcceptBlockHeader(block, state, &pindex))
3193         return false;
3194
3195     // Try to process all requested blocks that we don't have, but only
3196     // process an unrequested block if it's new and has enough work to
3197     // advance our tip, and isn't too many blocks ahead.
3198     bool fAlreadyHave = pindex->nStatus & BLOCK_HAVE_DATA;
3199     bool fHasMoreWork = (chainActive.Tip() ? pindex->nChainWork > chainActive.Tip()->nChainWork : true);
3200     // Blocks that are too out-of-order needlessly limit the effectiveness of
3201     // pruning, because pruning will not delete block files that contain any
3202     // blocks which are too close in height to the tip.  Apply this test
3203     // regardless of whether pruning is enabled; it should generally be safe to
3204     // not process unrequested blocks.
3205     bool fTooFarAhead = (pindex->nHeight > int(chainActive.Height() + MIN_BLOCKS_TO_KEEP));
3206
3207     // TODO: deal better with return value and error conditions for duplicate
3208     // and unrequested blocks.
3209     if (fAlreadyHave) return true;
3210     if (!fRequested) {  // If we didn't ask for it:
3211         if (pindex->nTx != 0) return true;  // This is a previously-processed block that was pruned
3212         if (!fHasMoreWork) return true;     // Don't process less-work chains
3213         if (fTooFarAhead) return true;      // Block height is too high
3214     }
3215
3216     // See method docstring for why this is always disabled
3217     auto verifier = libzcash::ProofVerifier::Disabled();
3218     if ((!CheckBlock(block, state, verifier)) || !ContextualCheckBlock(block, state, pindex->pprev)) {
3219         if (state.IsInvalid() && !state.CorruptionPossible()) {
3220             pindex->nStatus |= BLOCK_FAILED_VALID;
3221             setDirtyBlockIndex.insert(pindex);
3222         }
3223         return false;
3224     }
3225
3226     int nHeight = pindex->nHeight;
3227
3228     // Write block to history file
3229     try {
3230         unsigned int nBlockSize = ::GetSerializeSize(block, SER_DISK, CLIENT_VERSION);
3231         CDiskBlockPos blockPos;
3232         if (dbp != NULL)
3233             blockPos = *dbp;
3234         if (!FindBlockPos(state, blockPos, nBlockSize+8, nHeight, block.GetBlockTime(), dbp != NULL))
3235             return error("AcceptBlock(): FindBlockPos failed");
3236         if (dbp == NULL)
3237             if (!WriteBlockToDisk(block, blockPos, chainparams.MessageStart()))
3238                 AbortNode(state, "Failed to write block");
3239         if (!ReceivedBlockTransactions(block, state, pindex, blockPos))
3240             return error("AcceptBlock(): ReceivedBlockTransactions failed");
3241     } catch (const std::runtime_error& e) {
3242         return AbortNode(state, std::string("System error: ") + e.what());
3243     }
3244
3245     if (fCheckForPruning)
3246         FlushStateToDisk(state, FLUSH_STATE_NONE); // we just allocated more disk space for block files
3247
3248     return true;
3249 }
3250
3251 static bool IsSuperMajority(int minVersion, const CBlockIndex* pstart, unsigned nRequired, const Consensus::Params& consensusParams)
3252 {
3253     unsigned int nFound = 0;
3254     for (int i = 0; i < consensusParams.nMajorityWindow && nFound < nRequired && pstart != NULL; i++)
3255     {
3256         if (pstart->nVersion >= minVersion)
3257             ++nFound;
3258         pstart = pstart->pprev;
3259     }
3260     return (nFound >= nRequired);
3261 }
3262
3263
3264 bool ProcessNewBlock(CValidationState &state, CNode* pfrom, CBlock* pblock, bool fForceProcessing, CDiskBlockPos *dbp)
3265 {
3266     // Preliminary checks
3267     auto verifier = libzcash::ProofVerifier::Disabled();
3268     bool checked = CheckBlock(*pblock, state, verifier);
3269
3270     {
3271         LOCK(cs_main);
3272         bool fRequested = MarkBlockAsReceived(pblock->GetHash());
3273         fRequested |= fForceProcessing;
3274         if (!checked) {
3275             return error("%s: CheckBlock FAILED", __func__);
3276         }
3277
3278         // Store to disk
3279         CBlockIndex *pindex = NULL;
3280         bool ret = AcceptBlock(*pblock, state, &pindex, fRequested, dbp);
3281         if (pindex && pfrom) {
3282             mapBlockSource[pindex->GetBlockHash()] = pfrom->GetId();
3283         }
3284         CheckBlockIndex();
3285         if (!ret)
3286             return error("%s: AcceptBlock FAILED", __func__);
3287     }
3288
3289     if (!ActivateBestChain(state, pblock))
3290         return error("%s: ActivateBestChain failed", __func__);
3291
3292     return true;
3293 }
3294
3295 bool TestBlockValidity(CValidationState &state, const CBlock& block, CBlockIndex * const pindexPrev, bool fCheckPOW, bool fCheckMerkleRoot)
3296 {
3297     AssertLockHeld(cs_main);
3298     assert(pindexPrev == chainActive.Tip());
3299
3300     CCoinsViewCache viewNew(pcoinsTip);
3301     CBlockIndex indexDummy(block);
3302     indexDummy.pprev = pindexPrev;
3303     indexDummy.nHeight = pindexPrev->nHeight + 1;
3304     // JoinSplit proofs are verified in ConnectBlock
3305     auto verifier = libzcash::ProofVerifier::Disabled();
3306
3307     // NOTE: CheckBlockHeader is called by CheckBlock
3308     if (!ContextualCheckBlockHeader(block, state, pindexPrev))
3309         return false;
3310     if (!CheckBlock(block, state, verifier, fCheckPOW, fCheckMerkleRoot))
3311         return false;
3312     if (!ContextualCheckBlock(block, state, pindexPrev))
3313         return false;
3314     if (!ConnectBlock(block, state, &indexDummy, viewNew, true))
3315         return false;
3316     assert(state.IsValid());
3317
3318     return true;
3319 }
3320
3321 /**
3322  * BLOCK PRUNING CODE
3323  */
3324
3325 /* Calculate the amount of disk space the block & undo files currently use */
3326 uint64_t CalculateCurrentUsage()
3327 {
3328     uint64_t retval = 0;
3329     BOOST_FOREACH(const CBlockFileInfo &file, vinfoBlockFile) {
3330         retval += file.nSize + file.nUndoSize;
3331     }
3332     return retval;
3333 }
3334
3335 /* Prune a block file (modify associated database entries)*/
3336 void PruneOneBlockFile(const int fileNumber)
3337 {
3338     for (BlockMap::iterator it = mapBlockIndex.begin(); it != mapBlockIndex.end(); ++it) {
3339         CBlockIndex* pindex = it->second;
3340         if (pindex->nFile == fileNumber) {
3341             pindex->nStatus &= ~BLOCK_HAVE_DATA;
3342             pindex->nStatus &= ~BLOCK_HAVE_UNDO;
3343             pindex->nFile = 0;
3344             pindex->nDataPos = 0;
3345             pindex->nUndoPos = 0;
3346             setDirtyBlockIndex.insert(pindex);
3347
3348             // Prune from mapBlocksUnlinked -- any block we prune would have
3349             // to be downloaded again in order to consider its chain, at which
3350             // point it would be considered as a candidate for
3351             // mapBlocksUnlinked or setBlockIndexCandidates.
3352             std::pair<std::multimap<CBlockIndex*, CBlockIndex*>::iterator, std::multimap<CBlockIndex*, CBlockIndex*>::iterator> range = mapBlocksUnlinked.equal_range(pindex->pprev);
3353             while (range.first != range.second) {
3354                 std::multimap<CBlockIndex *, CBlockIndex *>::iterator it = range.first;
3355                 range.first++;
3356                 if (it->second == pindex) {
3357                     mapBlocksUnlinked.erase(it);
3358                 }
3359             }
3360         }
3361     }
3362
3363     vinfoBlockFile[fileNumber].SetNull();
3364     setDirtyFileInfo.insert(fileNumber);
3365 }
3366
3367
3368 void UnlinkPrunedFiles(std::set<int>& setFilesToPrune)
3369 {
3370     for (set<int>::iterator it = setFilesToPrune.begin(); it != setFilesToPrune.end(); ++it) {
3371         CDiskBlockPos pos(*it, 0);
3372         boost::filesystem::remove(GetBlockPosFilename(pos, "blk"));
3373         boost::filesystem::remove(GetBlockPosFilename(pos, "rev"));
3374         LogPrintf("Prune: %s deleted blk/rev (%05u)\n", __func__, *it);
3375     }
3376 }
3377
3378 /* Calculate the block/rev files that should be deleted to remain under target*/
3379 void FindFilesToPrune(std::set<int>& setFilesToPrune)
3380 {
3381     LOCK2(cs_main, cs_LastBlockFile);
3382     if (chainActive.Tip() == NULL || nPruneTarget == 0) {
3383         return;
3384     }
3385     if (chainActive.Tip()->nHeight <= Params().PruneAfterHeight()) {
3386         return;
3387     }
3388
3389     unsigned int nLastBlockWeCanPrune = chainActive.Tip()->nHeight - MIN_BLOCKS_TO_KEEP;
3390     uint64_t nCurrentUsage = CalculateCurrentUsage();
3391     // We don't check to prune until after we've allocated new space for files
3392     // So we should leave a buffer under our target to account for another allocation
3393     // before the next pruning.
3394     uint64_t nBuffer = BLOCKFILE_CHUNK_SIZE + UNDOFILE_CHUNK_SIZE;
3395     uint64_t nBytesToPrune;
3396     int count=0;
3397
3398     if (nCurrentUsage + nBuffer >= nPruneTarget) {
3399         for (int fileNumber = 0; fileNumber < nLastBlockFile; fileNumber++) {
3400             nBytesToPrune = vinfoBlockFile[fileNumber].nSize + vinfoBlockFile[fileNumber].nUndoSize;
3401
3402             if (vinfoBlockFile[fileNumber].nSize == 0)
3403                 continue;
3404
3405             if (nCurrentUsage + nBuffer < nPruneTarget)  // are we below our target?
3406                 break;
3407
3408             // don't prune files that could have a block within MIN_BLOCKS_TO_KEEP of the main chain's tip but keep scanning
3409             if (vinfoBlockFile[fileNumber].nHeightLast > nLastBlockWeCanPrune)
3410                 continue;
3411
3412             PruneOneBlockFile(fileNumber);
3413             // Queue up the files for removal
3414             setFilesToPrune.insert(fileNumber);
3415             nCurrentUsage -= nBytesToPrune;
3416             count++;
3417         }
3418     }
3419
3420     LogPrint("prune", "Prune: target=%dMiB actual=%dMiB diff=%dMiB max_prune_height=%d removed %d blk/rev pairs\n",
3421            nPruneTarget/1024/1024, nCurrentUsage/1024/1024,
3422            ((int64_t)nPruneTarget - (int64_t)nCurrentUsage)/1024/1024,
3423            nLastBlockWeCanPrune, count);
3424 }
3425
3426 bool CheckDiskSpace(uint64_t nAdditionalBytes)
3427 {
3428     uint64_t nFreeBytesAvailable = boost::filesystem::space(GetDataDir()).available;
3429
3430     // Check for nMinDiskSpace bytes (currently 50MB)
3431     if (nFreeBytesAvailable < nMinDiskSpace + nAdditionalBytes)
3432         return AbortNode("Disk space is low!", _("Error: Disk space is low!"));
3433
3434     return true;
3435 }
3436
3437 FILE* OpenDiskFile(const CDiskBlockPos &pos, const char *prefix, bool fReadOnly)
3438 {
3439     if (pos.IsNull())
3440         return NULL;
3441     boost::filesystem::path path = GetBlockPosFilename(pos, prefix);
3442     boost::filesystem::create_directories(path.parent_path());
3443     FILE* file = fopen(path.string().c_str(), "rb+");
3444     if (!file && !fReadOnly)
3445         file = fopen(path.string().c_str(), "wb+");
3446     if (!file) {
3447         LogPrintf("Unable to open file %s\n", path.string());
3448         return NULL;
3449     }
3450     if (pos.nPos) {
3451         if (fseek(file, pos.nPos, SEEK_SET)) {
3452             LogPrintf("Unable to seek to position %u of %s\n", pos.nPos, path.string());
3453             fclose(file);
3454             return NULL;
3455         }
3456     }
3457     return file;
3458 }
3459
3460 FILE* OpenBlockFile(const CDiskBlockPos &pos, bool fReadOnly) {
3461     return OpenDiskFile(pos, "blk", fReadOnly);
3462 }
3463
3464 FILE* OpenUndoFile(const CDiskBlockPos &pos, bool fReadOnly) {
3465     return OpenDiskFile(pos, "rev", fReadOnly);
3466 }
3467
3468 boost::filesystem::path GetBlockPosFilename(const CDiskBlockPos &pos, const char *prefix)
3469 {
3470     return GetDataDir() / "blocks" / strprintf("%s%05u.dat", prefix, pos.nFile);
3471 }
3472
3473 CBlockIndex * InsertBlockIndex(uint256 hash)
3474 {
3475     if (hash.IsNull())
3476         return NULL;
3477
3478     // Return existing
3479     BlockMap::iterator mi = mapBlockIndex.find(hash);
3480     if (mi != mapBlockIndex.end())
3481         return (*mi).second;
3482
3483     // Create new
3484     CBlockIndex* pindexNew = new CBlockIndex();
3485     if (!pindexNew)
3486         throw runtime_error("LoadBlockIndex(): new CBlockIndex failed");
3487     mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
3488     pindexNew->phashBlock = &((*mi).first);
3489
3490     return pindexNew;
3491 }
3492
3493 bool static LoadBlockIndexDB()
3494 {
3495     const CChainParams& chainparams = Params();
3496     if (!pblocktree->LoadBlockIndexGuts())
3497         return false;
3498
3499     boost::this_thread::interruption_point();
3500
3501     // Calculate nChainWork
3502     vector<pair<int, CBlockIndex*> > vSortedByHeight;
3503     vSortedByHeight.reserve(mapBlockIndex.size());
3504     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3505     {
3506         CBlockIndex* pindex = item.second;
3507         vSortedByHeight.push_back(make_pair(pindex->nHeight, pindex));
3508     }
3509     sort(vSortedByHeight.begin(), vSortedByHeight.end());
3510     BOOST_FOREACH(const PAIRTYPE(int, CBlockIndex*)& item, vSortedByHeight)
3511     {
3512         CBlockIndex* pindex = item.second;
3513         pindex->nChainWork = (pindex->pprev ? pindex->pprev->nChainWork : 0) + GetBlockProof(*pindex);
3514         // We can link the chain of blocks for which we've received transactions at some point.
3515         // Pruned nodes may have deleted the block.
3516         if (pindex->nTx > 0) {
3517             if (pindex->pprev) {
3518                 if (pindex->pprev->nChainTx) {
3519                     pindex->nChainTx = pindex->pprev->nChainTx + pindex->nTx;
3520                 } else {
3521                     pindex->nChainTx = 0;
3522                     mapBlocksUnlinked.insert(std::make_pair(pindex->pprev, pindex));
3523                 }
3524             } else {
3525                 pindex->nChainTx = pindex->nTx;
3526             }
3527         }
3528         if (pindex->IsValid(BLOCK_VALID_TRANSACTIONS) && (pindex->nChainTx || pindex->pprev == NULL))
3529             setBlockIndexCandidates.insert(pindex);
3530         if (pindex->nStatus & BLOCK_FAILED_MASK && (!pindexBestInvalid || pindex->nChainWork > pindexBestInvalid->nChainWork))
3531             pindexBestInvalid = pindex;
3532         if (pindex->pprev)
3533             pindex->BuildSkip();
3534         if (pindex->IsValid(BLOCK_VALID_TREE) && (pindexBestHeader == NULL || CBlockIndexWorkComparator()(pindexBestHeader, pindex)))
3535             pindexBestHeader = pindex;
3536     }
3537
3538     // Load block file info
3539     pblocktree->ReadLastBlockFile(nLastBlockFile);
3540     vinfoBlockFile.resize(nLastBlockFile + 1);
3541     LogPrintf("%s: last block file = %i\n", __func__, nLastBlockFile);
3542     for (int nFile = 0; nFile <= nLastBlockFile; nFile++) {
3543         pblocktree->ReadBlockFileInfo(nFile, vinfoBlockFile[nFile]);
3544     }
3545     LogPrintf("%s: last block file info: %s\n", __func__, vinfoBlockFile[nLastBlockFile].ToString());
3546     for (int nFile = nLastBlockFile + 1; true; nFile++) {
3547         CBlockFileInfo info;
3548         if (pblocktree->ReadBlockFileInfo(nFile, info)) {
3549             vinfoBlockFile.push_back(info);
3550         } else {
3551             break;
3552         }
3553     }
3554
3555     // Check presence of blk files
3556     LogPrintf("Checking all blk files are present...\n");
3557     set<int> setBlkDataFiles;
3558     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3559     {
3560         CBlockIndex* pindex = item.second;
3561         if (pindex->nStatus & BLOCK_HAVE_DATA) {
3562             setBlkDataFiles.insert(pindex->nFile);
3563         }
3564     }
3565     for (std::set<int>::iterator it = setBlkDataFiles.begin(); it != setBlkDataFiles.end(); it++)
3566     {
3567         CDiskBlockPos pos(*it, 0);
3568         if (CAutoFile(OpenBlockFile(pos, true), SER_DISK, CLIENT_VERSION).IsNull()) {
3569             return false;
3570         }
3571     }
3572
3573     // Check whether we have ever pruned block & undo files
3574     pblocktree->ReadFlag("prunedblockfiles", fHavePruned);
3575     if (fHavePruned)
3576         LogPrintf("LoadBlockIndexDB(): Block files have previously been pruned\n");
3577
3578     // Check whether we need to continue reindexing
3579     bool fReindexing = false;
3580     pblocktree->ReadReindexing(fReindexing);
3581     fReindex |= fReindexing;
3582
3583     // Check whether we have a transaction index
3584     pblocktree->ReadFlag("txindex", fTxIndex);
3585     LogPrintf("%s: transaction index %s\n", __func__, fTxIndex ? "enabled" : "disabled");
3586
3587     // Fill in-memory data
3588     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3589     {
3590         CBlockIndex* pindex = item.second;
3591         // - This relationship will always be true even if pprev has multiple
3592         //   children, because hashAnchor is technically a property of pprev,
3593         //   not its children.
3594         // - This will miss chain tips; we handle the best tip below, and other
3595         //   tips will be handled by ConnectTip during a re-org.
3596         if (pindex->pprev) {
3597             pindex->pprev->hashAnchorEnd = pindex->hashAnchor;
3598         }
3599     }
3600
3601     // Load pointer to end of best chain
3602     BlockMap::iterator it = mapBlockIndex.find(pcoinsTip->GetBestBlock());
3603     if (it == mapBlockIndex.end())
3604         return true;
3605     chainActive.SetTip(it->second);
3606     // Set hashAnchorEnd for the end of best chain
3607     it->second->hashAnchorEnd = pcoinsTip->GetBestAnchor();
3608
3609     PruneBlockIndexCandidates();
3610
3611     LogPrintf("%s: hashBestChain=%s height=%d date=%s progress=%f\n", __func__,
3612         chainActive.Tip()->GetBlockHash().ToString(), chainActive.Height(),
3613         DateTimeStrFormat("%Y-%m-%d %H:%M:%S", chainActive.Tip()->GetBlockTime()),
3614         Checkpoints::GuessVerificationProgress(chainparams.Checkpoints(), chainActive.Tip()));
3615
3616     return true;
3617 }
3618
3619 CVerifyDB::CVerifyDB()
3620 {
3621     uiInterface.ShowProgress(_("Verifying blocks..."), 0);
3622 }
3623
3624 CVerifyDB::~CVerifyDB()
3625 {
3626     uiInterface.ShowProgress("", 100);
3627 }
3628
3629 bool CVerifyDB::VerifyDB(CCoinsView *coinsview, int nCheckLevel, int nCheckDepth)
3630 {
3631     LOCK(cs_main);
3632     if (chainActive.Tip() == NULL || chainActive.Tip()->pprev == NULL)
3633         return true;
3634
3635     // Verify blocks in the best chain
3636     if (nCheckDepth <= 0)
3637         nCheckDepth = 1000000000; // suffices until the year 19000
3638     if (nCheckDepth > chainActive.Height())
3639         nCheckDepth = chainActive.Height();
3640     nCheckLevel = std::max(0, std::min(4, nCheckLevel));
3641     LogPrintf("Verifying last %i blocks at level %i\n", nCheckDepth, nCheckLevel);
3642     CCoinsViewCache coins(coinsview);
3643     CBlockIndex* pindexState = chainActive.Tip();
3644     CBlockIndex* pindexFailure = NULL;
3645     int nGoodTransactions = 0;
3646     CValidationState state;
3647     // No need to verify JoinSplits twice
3648     auto verifier = libzcash::ProofVerifier::Disabled();
3649     for (CBlockIndex* pindex = chainActive.Tip(); pindex && pindex->pprev; pindex = pindex->pprev)
3650     {
3651         boost::this_thread::interruption_point();
3652         uiInterface.ShowProgress(_("Verifying blocks..."), std::max(1, std::min(99, (int)(((double)(chainActive.Height() - pindex->nHeight)) / (double)nCheckDepth * (nCheckLevel >= 4 ? 50 : 100)))));
3653         if (pindex->nHeight < chainActive.Height()-nCheckDepth)
3654             break;
3655         CBlock block;
3656         // check level 0: read from disk
3657         if (!ReadBlockFromDisk(block, pindex))
3658             return error("VerifyDB(): *** ReadBlockFromDisk failed at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3659         // check level 1: verify block validity
3660         if (nCheckLevel >= 1 && !CheckBlock(block, state, verifier))
3661             return error("VerifyDB(): *** found bad block at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
3662         // check level 2: verify undo validity
3663         if (nCheckLevel >= 2 && pindex) {
3664             CBlockUndo undo;
3665             CDiskBlockPos pos = pindex->GetUndoPos();
3666             if (!pos.IsNull()) {
3667                 if (!UndoReadFromDisk(undo, pos, pindex->pprev->GetBlockHash()))
3668                     return error("VerifyDB(): *** found bad undo data at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
3669             }
3670         }
3671         // check level 3: check for inconsistencies during memory-only disconnect of tip blocks
3672         if (nCheckLevel >= 3 && pindex == pindexState && (coins.DynamicMemoryUsage() + pcoinsTip->DynamicMemoryUsage()) <= nCoinCacheUsage) {
3673             bool fClean = true;
3674             if (!DisconnectBlock(block, state, pindex, coins, &fClean))
3675                 return error("VerifyDB(): *** irrecoverable inconsistency in block data at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3676             pindexState = pindex->pprev;
3677             if (!fClean) {
3678                 nGoodTransactions = 0;
3679                 pindexFailure = pindex;
3680             } else
3681                 nGoodTransactions += block.vtx.size();
3682         }
3683         if (ShutdownRequested())
3684             return true;
3685     }
3686     if (pindexFailure)
3687         return error("VerifyDB(): *** coin database inconsistencies found (last %i blocks, %i good transactions before that)\n", chainActive.Height() - pindexFailure->nHeight + 1, nGoodTransactions);
3688
3689     // check level 4: try reconnecting blocks
3690     if (nCheckLevel >= 4) {
3691         CBlockIndex *pindex = pindexState;
3692         while (pindex != chainActive.Tip()) {
3693             boost::this_thread::interruption_point();
3694             uiInterface.ShowProgress(_("Verifying blocks..."), std::max(1, std::min(99, 100 - (int)(((double)(chainActive.Height() - pindex->nHeight)) / (double)nCheckDepth * 50))));
3695             pindex = chainActive.Next(pindex);
3696             CBlock block;
3697             if (!ReadBlockFromDisk(block, pindex))
3698                 return error("VerifyDB(): *** ReadBlockFromDisk failed at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3699             if (!ConnectBlock(block, state, pindex, coins))
3700                 return error("VerifyDB(): *** found unconnectable block at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3701         }
3702     }
3703
3704     LogPrintf("No coin database inconsistencies in last %i blocks (%i transactions)\n", chainActive.Height() - pindexState->nHeight, nGoodTransactions);
3705
3706     return true;
3707 }
3708
3709 void UnloadBlockIndex()
3710 {
3711     LOCK(cs_main);
3712     setBlockIndexCandidates.clear();
3713     chainActive.SetTip(NULL);
3714     pindexBestInvalid = NULL;
3715     pindexBestHeader = NULL;
3716     mempool.clear();
3717     mapOrphanTransactions.clear();
3718     mapOrphanTransactionsByPrev.clear();
3719     nSyncStarted = 0;
3720     mapBlocksUnlinked.clear();
3721     vinfoBlockFile.clear();
3722     nLastBlockFile = 0;
3723     nBlockSequenceId = 1;
3724     mapBlockSource.clear();
3725     mapBlocksInFlight.clear();
3726     nQueuedValidatedHeaders = 0;
3727     nPreferredDownload = 0;
3728     setDirtyBlockIndex.clear();
3729     setDirtyFileInfo.clear();
3730     mapNodeState.clear();
3731     recentRejects.reset(NULL);
3732
3733     BOOST_FOREACH(BlockMap::value_type& entry, mapBlockIndex) {
3734         delete entry.second;
3735     }
3736     mapBlockIndex.clear();
3737     fHavePruned = false;
3738 }
3739
3740 bool LoadBlockIndex()
3741 {
3742     // Load block index from databases
3743     if (!fReindex && !LoadBlockIndexDB())
3744         return false;
3745     return true;
3746 }
3747
3748
3749 bool InitBlockIndex() {
3750     const CChainParams& chainparams = Params();
3751     LOCK(cs_main);
3752
3753     // Initialize global variables that cannot be constructed at startup.
3754     recentRejects.reset(new CRollingBloomFilter(120000, 0.000001));
3755
3756     // Check whether we're already initialized
3757     if (chainActive.Genesis() != NULL)
3758         return true;
3759
3760     // Use the provided setting for -txindex in the new database
3761     fTxIndex = GetBoolArg("-txindex", false);
3762     pblocktree->WriteFlag("txindex", fTxIndex);
3763     LogPrintf("Initializing databases...\n");
3764
3765     // Only add the genesis block if not reindexing (in which case we reuse the one already on disk)
3766     if (!fReindex) {
3767         try {
3768             CBlock &block = const_cast<CBlock&>(Params().GenesisBlock());
3769             // Start new block file
3770             unsigned int nBlockSize = ::GetSerializeSize(block, SER_DISK, CLIENT_VERSION);
3771             CDiskBlockPos blockPos;
3772             CValidationState state;
3773             if (!FindBlockPos(state, blockPos, nBlockSize+8, 0, block.GetBlockTime()))
3774                 return error("LoadBlockIndex(): FindBlockPos failed");
3775             if (!WriteBlockToDisk(block, blockPos, chainparams.MessageStart()))
3776                 return error("LoadBlockIndex(): writing genesis block to disk failed");
3777             CBlockIndex *pindex = AddToBlockIndex(block);
3778             if (!ReceivedBlockTransactions(block, state, pindex, blockPos))
3779                 return error("LoadBlockIndex(): genesis block not accepted");
3780             if (!ActivateBestChain(state, &block))
3781                 return error("LoadBlockIndex(): genesis block cannot be activated");
3782             // Force a chainstate write so that when we VerifyDB in a moment, it doesn't check stale data
3783             return FlushStateToDisk(state, FLUSH_STATE_ALWAYS);
3784         } catch (const std::runtime_error& e) {
3785             return error("LoadBlockIndex(): failed to initialize block database: %s", e.what());
3786         }
3787     }
3788
3789     return true;
3790 }
3791
3792
3793
3794 bool LoadExternalBlockFile(FILE* fileIn, CDiskBlockPos *dbp)
3795 {
3796     const CChainParams& chainparams = Params();
3797     // Map of disk positions for blocks with unknown parent (only used for reindex)
3798     static std::multimap<uint256, CDiskBlockPos> mapBlocksUnknownParent;
3799     int64_t nStart = GetTimeMillis();
3800
3801     int nLoaded = 0;
3802     try {
3803         // This takes over fileIn and calls fclose() on it in the CBufferedFile destructor
3804         CBufferedFile blkdat(fileIn, 2*MAX_BLOCK_SIZE, MAX_BLOCK_SIZE+8, SER_DISK, CLIENT_VERSION);
3805         uint64_t nRewind = blkdat.GetPos();
3806         while (!blkdat.eof()) {
3807             boost::this_thread::interruption_point();
3808
3809             blkdat.SetPos(nRewind);
3810             nRewind++; // start one byte further next time, in case of failure
3811             blkdat.SetLimit(); // remove former limit
3812             unsigned int nSize = 0;
3813             try {
3814                 // locate a header
3815                 unsigned char buf[MESSAGE_START_SIZE];
3816                 blkdat.FindByte(Params().MessageStart()[0]);
3817                 nRewind = blkdat.GetPos()+1;
3818                 blkdat >> FLATDATA(buf);
3819                 if (memcmp(buf, Params().MessageStart(), MESSAGE_START_SIZE))
3820                     continue;
3821                 // read size
3822                 blkdat >> nSize;
3823                 if (nSize < 80 || nSize > MAX_BLOCK_SIZE)
3824                     continue;
3825             } catch (const std::exception&) {
3826                 // no valid block header found; don't complain
3827                 break;
3828             }
3829             try {
3830                 // read block
3831                 uint64_t nBlockPos = blkdat.GetPos();
3832                 if (dbp)
3833                     dbp->nPos = nBlockPos;
3834                 blkdat.SetLimit(nBlockPos + nSize);
3835                 blkdat.SetPos(nBlockPos);
3836                 CBlock block;
3837                 blkdat >> block;
3838                 nRewind = blkdat.GetPos();
3839
3840                 // detect out of order blocks, and store them for later
3841                 uint256 hash = block.GetHash();
3842                 if (hash != chainparams.GetConsensus().hashGenesisBlock && mapBlockIndex.find(block.hashPrevBlock) == mapBlockIndex.end()) {
3843                     LogPrint("reindex", "%s: Out of order block %s, parent %s not known\n", __func__, hash.ToString(),
3844                             block.hashPrevBlock.ToString());
3845                     if (dbp)
3846                         mapBlocksUnknownParent.insert(std::make_pair(block.hashPrevBlock, *dbp));
3847                     continue;
3848                 }
3849
3850                 // process in case the block isn't known yet
3851                 if (mapBlockIndex.count(hash) == 0 || (mapBlockIndex[hash]->nStatus & BLOCK_HAVE_DATA) == 0) {
3852                     CValidationState state;
3853                     if (ProcessNewBlock(state, NULL, &block, true, dbp))
3854                         nLoaded++;
3855                     if (state.IsError())
3856                         break;
3857                 } else if (hash != chainparams.GetConsensus().hashGenesisBlock && mapBlockIndex[hash]->nHeight % 1000 == 0) {
3858                     LogPrintf("Block Import: already had block %s at height %d\n", hash.ToString(), mapBlockIndex[hash]->nHeight);
3859                 }
3860
3861                 // Recursively process earlier encountered successors of this block
3862                 deque<uint256> queue;
3863                 queue.push_back(hash);
3864                 while (!queue.empty()) {
3865                     uint256 head = queue.front();
3866                     queue.pop_front();
3867                     std::pair<std::multimap<uint256, CDiskBlockPos>::iterator, std::multimap<uint256, CDiskBlockPos>::iterator> range = mapBlocksUnknownParent.equal_range(head);
3868                     while (range.first != range.second) {
3869                         std::multimap<uint256, CDiskBlockPos>::iterator it = range.first;
3870                         if (ReadBlockFromDisk(block, it->second))
3871                         {
3872                             LogPrintf("%s: Processing out of order child %s of %s\n", __func__, block.GetHash().ToString(),
3873                                     head.ToString());
3874                             CValidationState dummy;
3875                             if (ProcessNewBlock(dummy, NULL, &block, true, &it->second))
3876                             {
3877                                 nLoaded++;
3878                                 queue.push_back(block.GetHash());
3879                             }
3880                         }
3881                         range.first++;
3882                         mapBlocksUnknownParent.erase(it);
3883                     }
3884                 }
3885             } catch (const std::exception& e) {
3886                 LogPrintf("%s: Deserialize or I/O error - %s\n", __func__, e.what());
3887             }
3888         }
3889     } catch (const std::runtime_error& e) {
3890         AbortNode(std::string("System error: ") + e.what());
3891     }
3892     if (nLoaded > 0)
3893         LogPrintf("Loaded %i blocks from external file in %dms\n", nLoaded, GetTimeMillis() - nStart);
3894     return nLoaded > 0;
3895 }
3896
3897 void static CheckBlockIndex()
3898 {
3899     const Consensus::Params& consensusParams = Params().GetConsensus();
3900     if (!fCheckBlockIndex) {
3901         return;
3902     }
3903
3904     LOCK(cs_main);
3905
3906     // During a reindex, we read the genesis block and call CheckBlockIndex before ActivateBestChain,
3907     // so we have the genesis block in mapBlockIndex but no active chain.  (A few of the tests when
3908     // iterating the block tree require that chainActive has been initialized.)
3909     if (chainActive.Height() < 0) {
3910         assert(mapBlockIndex.size() <= 1);
3911         return;
3912     }
3913
3914     // Build forward-pointing map of the entire block tree.
3915     std::multimap<CBlockIndex*,CBlockIndex*> forward;
3916     for (BlockMap::iterator it = mapBlockIndex.begin(); it != mapBlockIndex.end(); it++) {
3917         forward.insert(std::make_pair(it->second->pprev, it->second));
3918     }
3919
3920     assert(forward.size() == mapBlockIndex.size());
3921
3922     std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangeGenesis = forward.equal_range(NULL);
3923     CBlockIndex *pindex = rangeGenesis.first->second;
3924     rangeGenesis.first++;
3925     assert(rangeGenesis.first == rangeGenesis.second); // There is only one index entry with parent NULL.
3926
3927     // Iterate over the entire block tree, using depth-first search.
3928     // Along the way, remember whether there are blocks on the path from genesis
3929     // block being explored which are the first to have certain properties.
3930     size_t nNodes = 0;
3931     int nHeight = 0;
3932     CBlockIndex* pindexFirstInvalid = NULL; // Oldest ancestor of pindex which is invalid.
3933     CBlockIndex* pindexFirstMissing = NULL; // Oldest ancestor of pindex which does not have BLOCK_HAVE_DATA.
3934     CBlockIndex* pindexFirstNeverProcessed = NULL; // Oldest ancestor of pindex for which nTx == 0.
3935     CBlockIndex* pindexFirstNotTreeValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_TREE (regardless of being valid or not).
3936     CBlockIndex* pindexFirstNotTransactionsValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_TRANSACTIONS (regardless of being valid or not).
3937     CBlockIndex* pindexFirstNotChainValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_CHAIN (regardless of being valid or not).
3938     CBlockIndex* pindexFirstNotScriptsValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_SCRIPTS (regardless of being valid or not).
3939     while (pindex != NULL) {
3940         nNodes++;
3941         if (pindexFirstInvalid == NULL && pindex->nStatus & BLOCK_FAILED_VALID) pindexFirstInvalid = pindex;
3942         if (pindexFirstMissing == NULL && !(pindex->nStatus & BLOCK_HAVE_DATA)) pindexFirstMissing = pindex;
3943         if (pindexFirstNeverProcessed == NULL && pindex->nTx == 0) pindexFirstNeverProcessed = pindex;
3944         if (pindex->pprev != NULL && pindexFirstNotTreeValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_TREE) pindexFirstNotTreeValid = pindex;
3945         if (pindex->pprev != NULL && pindexFirstNotTransactionsValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_TRANSACTIONS) pindexFirstNotTransactionsValid = pindex;
3946         if (pindex->pprev != NULL && pindexFirstNotChainValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_CHAIN) pindexFirstNotChainValid = pindex;
3947         if (pindex->pprev != NULL && pindexFirstNotScriptsValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_SCRIPTS) pindexFirstNotScriptsValid = pindex;
3948
3949         // Begin: actual consistency checks.
3950         if (pindex->pprev == NULL) {
3951             // Genesis block checks.
3952             assert(pindex->GetBlockHash() == consensusParams.hashGenesisBlock); // Genesis block's hash must match.
3953             assert(pindex == chainActive.Genesis()); // The current active chain's genesis block must be this block.
3954         }
3955         if (pindex->nChainTx == 0) assert(pindex->nSequenceId == 0);  // nSequenceId can't be set for blocks that aren't linked
3956         // VALID_TRANSACTIONS is equivalent to nTx > 0 for all nodes (whether or not pruning has occurred).
3957         // HAVE_DATA is only equivalent to nTx > 0 (or VALID_TRANSACTIONS) if no pruning has occurred.
3958         if (!fHavePruned) {
3959             // If we've never pruned, then HAVE_DATA should be equivalent to nTx > 0
3960             assert(!(pindex->nStatus & BLOCK_HAVE_DATA) == (pindex->nTx == 0));
3961             assert(pindexFirstMissing == pindexFirstNeverProcessed);
3962         } else {
3963             // If we have pruned, then we can only say that HAVE_DATA implies nTx > 0
3964             if (pindex->nStatus & BLOCK_HAVE_DATA) assert(pindex->nTx > 0);
3965         }
3966         if (pindex->nStatus & BLOCK_HAVE_UNDO) assert(pindex->nStatus & BLOCK_HAVE_DATA);
3967         assert(((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_TRANSACTIONS) == (pindex->nTx > 0)); // This is pruning-independent.
3968         // All parents having had data (at some point) is equivalent to all parents being VALID_TRANSACTIONS, which is equivalent to nChainTx being set.
3969         assert((pindexFirstNeverProcessed != NULL) == (pindex->nChainTx == 0)); // nChainTx != 0 is used to signal that all parent blocks have been processed (but may have been pruned).
3970         assert((pindexFirstNotTransactionsValid != NULL) == (pindex->nChainTx == 0));
3971         assert(pindex->nHeight == nHeight); // nHeight must be consistent.
3972         assert(pindex->pprev == NULL || pindex->nChainWork >= pindex->pprev->nChainWork); // For every block except the genesis block, the chainwork must be larger than the parent's.
3973         assert(nHeight < 2 || (pindex->pskip && (pindex->pskip->nHeight < nHeight))); // The pskip pointer must point back for all but the first 2 blocks.
3974         assert(pindexFirstNotTreeValid == NULL); // All mapBlockIndex entries must at least be TREE valid
3975         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_TREE) assert(pindexFirstNotTreeValid == NULL); // TREE valid implies all parents are TREE valid
3976         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_CHAIN) assert(pindexFirstNotChainValid == NULL); // CHAIN valid implies all parents are CHAIN valid
3977         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_SCRIPTS) assert(pindexFirstNotScriptsValid == NULL); // SCRIPTS valid implies all parents are SCRIPTS valid
3978         if (pindexFirstInvalid == NULL) {
3979             // Checks for not-invalid blocks.
3980             assert((pindex->nStatus & BLOCK_FAILED_MASK) == 0); // The failed mask cannot be set for blocks without invalid parents.
3981         }
3982         if (!CBlockIndexWorkComparator()(pindex, chainActive.Tip()) && pindexFirstNeverProcessed == NULL) {
3983             if (pindexFirstInvalid == NULL) {
3984                 // If this block sorts at least as good as the current tip and
3985                 // is valid and we have all data for its parents, it must be in
3986                 // setBlockIndexCandidates.  chainActive.Tip() must also be there
3987                 // even if some data has been pruned.
3988                 if (pindexFirstMissing == NULL || pindex == chainActive.Tip()) {
3989                     assert(setBlockIndexCandidates.count(pindex));
3990                 }
3991                 // If some parent is missing, then it could be that this block was in
3992                 // setBlockIndexCandidates but had to be removed because of the missing data.
3993                 // In this case it must be in mapBlocksUnlinked -- see test below.
3994             }
3995         } else { // If this block sorts worse than the current tip or some ancestor's block has never been seen, it cannot be in setBlockIndexCandidates.
3996             assert(setBlockIndexCandidates.count(pindex) == 0);
3997         }
3998         // Check whether this block is in mapBlocksUnlinked.
3999         std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangeUnlinked = mapBlocksUnlinked.equal_range(pindex->pprev);
4000         bool foundInUnlinked = false;
4001         while (rangeUnlinked.first != rangeUnlinked.second) {
4002             assert(rangeUnlinked.first->first == pindex->pprev);
4003             if (rangeUnlinked.first->second == pindex) {
4004                 foundInUnlinked = true;
4005                 break;
4006             }
4007             rangeUnlinked.first++;
4008         }
4009         if (pindex->pprev && (pindex->nStatus & BLOCK_HAVE_DATA) && pindexFirstNeverProcessed != NULL && pindexFirstInvalid == NULL) {
4010             // If this block has block data available, some parent was never received, and has no invalid parents, it must be in mapBlocksUnlinked.
4011             assert(foundInUnlinked);
4012         }
4013         if (!(pindex->nStatus & BLOCK_HAVE_DATA)) assert(!foundInUnlinked); // Can't be in mapBlocksUnlinked if we don't HAVE_DATA
4014         if (pindexFirstMissing == NULL) assert(!foundInUnlinked); // We aren't missing data for any parent -- cannot be in mapBlocksUnlinked.
4015         if (pindex->pprev && (pindex->nStatus & BLOCK_HAVE_DATA) && pindexFirstNeverProcessed == NULL && pindexFirstMissing != NULL) {
4016             // We HAVE_DATA for this block, have received data for all parents at some point, but we're currently missing data for some parent.
4017             assert(fHavePruned); // We must have pruned.
4018             // This block may have entered mapBlocksUnlinked if:
4019             //  - it has a descendant that at some point had more work than the
4020             //    tip, and
4021             //  - we tried switching to that descendant but were missing
4022             //    data for some intermediate block between chainActive and the
4023             //    tip.
4024             // So if this block is itself better than chainActive.Tip() and it wasn't in
4025             // setBlockIndexCandidates, then it must be in mapBlocksUnlinked.
4026             if (!CBlockIndexWorkComparator()(pindex, chainActive.Tip()) && setBlockIndexCandidates.count(pindex) == 0) {
4027                 if (pindexFirstInvalid == NULL) {
4028                     assert(foundInUnlinked);
4029                 }
4030             }
4031         }
4032         // assert(pindex->GetBlockHash() == pindex->GetBlockHeader().GetHash()); // Perhaps too slow
4033         // End: actual consistency checks.
4034
4035         // Try descending into the first subnode.
4036         std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> range = forward.equal_range(pindex);
4037         if (range.first != range.second) {
4038             // A subnode was found.
4039             pindex = range.first->second;
4040             nHeight++;
4041             continue;
4042         }
4043         // This is a leaf node.
4044         // Move upwards until we reach a node of which we have not yet visited the last child.
4045         while (pindex) {
4046             // We are going to either move to a parent or a sibling of pindex.
4047             // If pindex was the first with a certain property, unset the corresponding variable.
4048             if (pindex == pindexFirstInvalid) pindexFirstInvalid = NULL;
4049             if (pindex == pindexFirstMissing) pindexFirstMissing = NULL;
4050             if (pindex == pindexFirstNeverProcessed) pindexFirstNeverProcessed = NULL;
4051             if (pindex == pindexFirstNotTreeValid) pindexFirstNotTreeValid = NULL;
4052             if (pindex == pindexFirstNotTransactionsValid) pindexFirstNotTransactionsValid = NULL;
4053             if (pindex == pindexFirstNotChainValid) pindexFirstNotChainValid = NULL;
4054             if (pindex == pindexFirstNotScriptsValid) pindexFirstNotScriptsValid = NULL;
4055             // Find our parent.
4056             CBlockIndex* pindexPar = pindex->pprev;
4057             // Find which child we just visited.
4058             std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangePar = forward.equal_range(pindexPar);
4059             while (rangePar.first->second != pindex) {
4060                 assert(rangePar.first != rangePar.second); // Our parent must have at least the node we're coming from as child.
4061                 rangePar.first++;
4062             }
4063             // Proceed to the next one.
4064             rangePar.first++;
4065             if (rangePar.first != rangePar.second) {
4066                 // Move to the sibling.
4067                 pindex = rangePar.first->second;
4068                 break;
4069             } else {
4070                 // Move up further.
4071                 pindex = pindexPar;
4072                 nHeight--;
4073                 continue;
4074             }
4075         }
4076     }
4077
4078     // Check that we actually traversed the entire map.
4079     assert(nNodes == forward.size());
4080 }
4081
4082 //////////////////////////////////////////////////////////////////////////////
4083 //
4084 // CAlert
4085 //
4086
4087 std::string GetWarnings(const std::string& strFor)
4088 {
4089     int nPriority = 0;
4090     string strStatusBar;
4091     string strRPC;
4092
4093     if (!CLIENT_VERSION_IS_RELEASE)
4094         strStatusBar = _("This is a pre-release test build - use at your own risk - do not use for mining or merchant applications");
4095
4096     if (GetBoolArg("-testsafemode", false))
4097         strStatusBar = strRPC = "testsafemode enabled";
4098
4099     // Misc warnings like out of disk space and clock is wrong
4100     if (strMiscWarning != "")
4101     {
4102         nPriority = 1000;
4103         strStatusBar = strMiscWarning;
4104     }
4105
4106     if (fLargeWorkForkFound)
4107     {
4108         nPriority = 2000;
4109         strStatusBar = strRPC = _("Warning: The network does not appear to fully agree! Some miners appear to be experiencing issues.");
4110     }
4111     else if (fLargeWorkInvalidChainFound)
4112     {
4113         nPriority = 2000;
4114         strStatusBar = strRPC = _("Warning: We do not appear to fully agree with our peers! You may need to upgrade, or other nodes may need to upgrade.");
4115     }
4116
4117     // Alerts
4118     {
4119         LOCK(cs_mapAlerts);
4120         BOOST_FOREACH(PAIRTYPE(const uint256, CAlert)& item, mapAlerts)
4121         {
4122             const CAlert& alert = item.second;
4123             if (alert.AppliesToMe() && alert.nPriority > nPriority)
4124             {
4125                 nPriority = alert.nPriority;
4126                 strStatusBar = alert.strStatusBar;
4127                 if (alert.nPriority >= ALERT_PRIORITY_SAFE_MODE) {
4128                     strRPC = alert.strRPCError;
4129                 }
4130             }
4131         }
4132     }
4133
4134     if (strFor == "statusbar")
4135         return strStatusBar;
4136     else if (strFor == "rpc")
4137         return strRPC;
4138     assert(!"GetWarnings(): invalid parameter");
4139     return "error";
4140 }
4141
4142
4143
4144
4145
4146
4147
4148
4149 //////////////////////////////////////////////////////////////////////////////
4150 //
4151 // Messages
4152 //
4153
4154
4155 bool static AlreadyHave(const CInv& inv) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
4156 {
4157     switch (inv.type)
4158     {
4159     case MSG_TX:
4160         {
4161             assert(recentRejects);
4162             if (chainActive.Tip()->GetBlockHash() != hashRecentRejectsChainTip)
4163             {
4164                 // If the chain tip has changed previously rejected transactions
4165                 // might be now valid, e.g. due to a nLockTime'd tx becoming valid,
4166                 // or a double-spend. Reset the rejects filter and give those
4167                 // txs a second chance.
4168                 hashRecentRejectsChainTip = chainActive.Tip()->GetBlockHash();
4169                 recentRejects->reset();
4170             }
4171
4172             return recentRejects->contains(inv.hash) ||
4173                    mempool.exists(inv.hash) ||
4174                    mapOrphanTransactions.count(inv.hash) ||
4175                    pcoinsTip->HaveCoins(inv.hash);
4176         }
4177     case MSG_BLOCK:
4178         return mapBlockIndex.count(inv.hash);
4179     }
4180     // Don't know what it is, just say we already got one
4181     return true;
4182 }
4183
4184 void static ProcessGetData(CNode* pfrom)
4185 {
4186     std::deque<CInv>::iterator it = pfrom->vRecvGetData.begin();
4187
4188     vector<CInv> vNotFound;
4189
4190     LOCK(cs_main);
4191
4192     while (it != pfrom->vRecvGetData.end()) {
4193         // Don't bother if send buffer is too full to respond anyway
4194         if (pfrom->nSendSize >= SendBufferSize())
4195             break;
4196
4197         const CInv &inv = *it;
4198         {
4199             boost::this_thread::interruption_point();
4200             it++;
4201
4202             if (inv.type == MSG_BLOCK || inv.type == MSG_FILTERED_BLOCK)
4203             {
4204                 bool send = false;
4205                 BlockMap::iterator mi = mapBlockIndex.find(inv.hash);
4206                 if (mi != mapBlockIndex.end())
4207                 {
4208                     if (chainActive.Contains(mi->second)) {
4209                         send = true;
4210                     } else {
4211                         static const int nOneMonth = 30 * 24 * 60 * 60;
4212                         // To prevent fingerprinting attacks, only send blocks outside of the active
4213                         // chain if they are valid, and no more than a month older (both in time, and in
4214                         // best equivalent proof of work) than the best header chain we know about.
4215                         send = mi->second->IsValid(BLOCK_VALID_SCRIPTS) && (pindexBestHeader != NULL) &&
4216                             (pindexBestHeader->GetBlockTime() - mi->second->GetBlockTime() < nOneMonth) &&
4217                             (GetBlockProofEquivalentTime(*pindexBestHeader, *mi->second, *pindexBestHeader, Params().GetConsensus()) < nOneMonth);
4218                         if (!send) {
4219                             LogPrintf("%s: ignoring request from peer=%i for old block that isn't in the main chain\n", __func__, pfrom->GetId());
4220                         }
4221                     }
4222                 }
4223                 // Pruned nodes may have deleted the block, so check whether
4224                 // it's available before trying to send.
4225                 if (send && (mi->second->nStatus & BLOCK_HAVE_DATA))
4226                 {
4227                     // Send block from disk
4228                     CBlock block;
4229                     if (!ReadBlockFromDisk(block, (*mi).second))
4230                         assert(!"cannot load block from disk");
4231                     if (inv.type == MSG_BLOCK)
4232                         pfrom->PushMessage("block", block);
4233                     else // MSG_FILTERED_BLOCK)
4234                     {
4235                         LOCK(pfrom->cs_filter);
4236                         if (pfrom->pfilter)
4237                         {
4238                             CMerkleBlock merkleBlock(block, *pfrom->pfilter);
4239                             pfrom->PushMessage("merkleblock", merkleBlock);
4240                             // CMerkleBlock just contains hashes, so also push any transactions in the block the client did not see
4241                             // This avoids hurting performance by pointlessly requiring a round-trip
4242                             // Note that there is currently no way for a node to request any single transactions we didn't send here -
4243                             // they must either disconnect and retry or request the full block.
4244                             // Thus, the protocol spec specified allows for us to provide duplicate txn here,
4245                             // however we MUST always provide at least what the remote peer needs
4246                             typedef std::pair<unsigned int, uint256> PairType;
4247                             BOOST_FOREACH(PairType& pair, merkleBlock.vMatchedTxn)
4248                                 if (!pfrom->setInventoryKnown.count(CInv(MSG_TX, pair.second)))
4249                                     pfrom->PushMessage("tx", block.vtx[pair.first]);
4250                         }
4251                         // else
4252                             // no response
4253                     }
4254
4255                     // Trigger the peer node to send a getblocks request for the next batch of inventory
4256                     if (inv.hash == pfrom->hashContinue)
4257                     {
4258                         // Bypass PushInventory, this must send even if redundant,
4259                         // and we want it right after the last block so they don't
4260                         // wait for other stuff first.
4261                         vector<CInv> vInv;
4262                         vInv.push_back(CInv(MSG_BLOCK, chainActive.Tip()->GetBlockHash()));
4263                         pfrom->PushMessage("inv", vInv);
4264                         pfrom->hashContinue.SetNull();
4265                     }
4266                 }
4267             }
4268             else if (inv.IsKnownType())
4269             {
4270                 // Send stream from relay memory
4271                 bool pushed = false;
4272                 {
4273                     LOCK(cs_mapRelay);
4274                     map<CInv, CDataStream>::iterator mi = mapRelay.find(inv);
4275                     if (mi != mapRelay.end()) {
4276                         pfrom->PushMessage(inv.GetCommand(), (*mi).second);
4277                         pushed = true;
4278                     }
4279                 }
4280                 if (!pushed && inv.type == MSG_TX) {
4281                     CTransaction tx;
4282                     if (mempool.lookup(inv.hash, tx)) {
4283                         CDataStream ss(SER_NETWORK, PROTOCOL_VERSION);
4284                         ss.reserve(1000);
4285                         ss << tx;
4286                         pfrom->PushMessage("tx", ss);
4287                         pushed = true;
4288                     }
4289                 }
4290                 if (!pushed) {
4291                     vNotFound.push_back(inv);
4292                 }
4293             }
4294
4295             // Track requests for our stuff.
4296             GetMainSignals().Inventory(inv.hash);
4297
4298             if (inv.type == MSG_BLOCK || inv.type == MSG_FILTERED_BLOCK)
4299                 break;
4300         }
4301     }
4302
4303     pfrom->vRecvGetData.erase(pfrom->vRecvGetData.begin(), it);
4304
4305     if (!vNotFound.empty()) {
4306         // Let the peer know that we didn't find what it asked for, so it doesn't
4307         // have to wait around forever. Currently only SPV clients actually care
4308         // about this message: it's needed when they are recursively walking the
4309         // dependencies of relevant unconfirmed transactions. SPV clients want to
4310         // do that because they want to know about (and store and rebroadcast and
4311         // risk analyze) the dependencies of transactions relevant to them, without
4312         // having to download the entire memory pool.
4313         pfrom->PushMessage("notfound", vNotFound);
4314     }
4315 }
4316
4317 bool static ProcessMessage(CNode* pfrom, string strCommand, CDataStream& vRecv, int64_t nTimeReceived)
4318 {
4319     const CChainParams& chainparams = Params();
4320     LogPrint("net", "received: %s (%u bytes) peer=%d\n", SanitizeString(strCommand), vRecv.size(), pfrom->id);
4321     if (mapArgs.count("-dropmessagestest") && GetRand(atoi(mapArgs["-dropmessagestest"])) == 0)
4322     {
4323         LogPrintf("dropmessagestest DROPPING RECV MESSAGE\n");
4324         return true;
4325     }
4326
4327
4328
4329
4330     if (strCommand == "version")
4331     {
4332         // Each connection can only send one version message
4333         if (pfrom->nVersion != 0)
4334         {
4335             pfrom->PushMessage("reject", strCommand, REJECT_DUPLICATE, string("Duplicate version message"));
4336             Misbehaving(pfrom->GetId(), 1);
4337             return false;
4338         }
4339
4340         int64_t nTime;
4341         CAddress addrMe;
4342         CAddress addrFrom;
4343         uint64_t nNonce = 1;
4344         vRecv >> pfrom->nVersion >> pfrom->nServices >> nTime >> addrMe;
4345         if (pfrom->nVersion < MIN_PEER_PROTO_VERSION)
4346         {
4347             // disconnect from peers older than this proto version
4348             LogPrintf("peer=%d using obsolete version %i; disconnecting\n", pfrom->id, pfrom->nVersion);
4349             pfrom->PushMessage("reject", strCommand, REJECT_OBSOLETE,
4350                                strprintf("Version must be %d or greater", MIN_PEER_PROTO_VERSION));
4351             pfrom->fDisconnect = true;
4352             return false;
4353         }
4354
4355         if (pfrom->nVersion == 10300)
4356             pfrom->nVersion = 300;
4357         if (!vRecv.empty())
4358             vRecv >> addrFrom >> nNonce;
4359         if (!vRecv.empty()) {
4360             vRecv >> LIMITED_STRING(pfrom->strSubVer, 256);
4361             pfrom->cleanSubVer = SanitizeString(pfrom->strSubVer);
4362         }
4363         if (!vRecv.empty())
4364             vRecv >> pfrom->nStartingHeight;
4365         if (!vRecv.empty())
4366             vRecv >> pfrom->fRelayTxes; // set to true after we get the first filter* message
4367         else
4368             pfrom->fRelayTxes = true;
4369
4370         // Disconnect if we connected to ourself
4371         if (nNonce == nLocalHostNonce && nNonce > 1)
4372         {
4373             LogPrintf("connected to self at %s, disconnecting\n", pfrom->addr.ToString());
4374             pfrom->fDisconnect = true;
4375             return true;
4376         }
4377
4378         pfrom->addrLocal = addrMe;
4379         if (pfrom->fInbound && addrMe.IsRoutable())
4380         {
4381             SeenLocal(addrMe);
4382         }
4383
4384         // Be shy and don't send version until we hear
4385         if (pfrom->fInbound)
4386             pfrom->PushVersion();
4387
4388         pfrom->fClient = !(pfrom->nServices & NODE_NETWORK);
4389
4390         // Potentially mark this peer as a preferred download peer.
4391         UpdatePreferredDownload(pfrom, State(pfrom->GetId()));
4392
4393         // Change version
4394         pfrom->PushMessage("verack");
4395         pfrom->ssSend.SetVersion(min(pfrom->nVersion, PROTOCOL_VERSION));
4396
4397         if (!pfrom->fInbound)
4398         {
4399             // Advertise our address
4400             if (fListen && !IsInitialBlockDownload())
4401             {
4402                 CAddress addr = GetLocalAddress(&pfrom->addr);
4403                 if (addr.IsRoutable())
4404                 {
4405                     LogPrintf("ProcessMessages: advertizing address %s\n", addr.ToString());
4406                     pfrom->PushAddress(addr);
4407                 } else if (IsPeerAddrLocalGood(pfrom)) {
4408                     addr.SetIP(pfrom->addrLocal);
4409                     LogPrintf("ProcessMessages: advertizing address %s\n", addr.ToString());
4410                     pfrom->PushAddress(addr);
4411                 }
4412             }
4413
4414             // Get recent addresses
4415             if (pfrom->fOneShot || pfrom->nVersion >= CADDR_TIME_VERSION || addrman.size() < 1000)
4416             {
4417                 pfrom->PushMessage("getaddr");
4418                 pfrom->fGetAddr = true;
4419             }
4420             addrman.Good(pfrom->addr);
4421         } else {
4422             if (((CNetAddr)pfrom->addr) == (CNetAddr)addrFrom)
4423             {
4424                 addrman.Add(addrFrom, addrFrom);
4425                 addrman.Good(addrFrom);
4426             }
4427         }
4428
4429         // Relay alerts
4430         {
4431             LOCK(cs_mapAlerts);
4432             BOOST_FOREACH(PAIRTYPE(const uint256, CAlert)& item, mapAlerts)
4433                 item.second.RelayTo(pfrom);
4434         }
4435
4436         pfrom->fSuccessfullyConnected = true;
4437
4438         string remoteAddr;
4439         if (fLogIPs)
4440             remoteAddr = ", peeraddr=" + pfrom->addr.ToString();
4441
4442         LogPrintf("receive version message: %s: version %d, blocks=%d, us=%s, peer=%d%s\n",
4443                   pfrom->cleanSubVer, pfrom->nVersion,
4444                   pfrom->nStartingHeight, addrMe.ToString(), pfrom->id,
4445                   remoteAddr);
4446
4447         int64_t nTimeOffset = nTime - GetTime();
4448         pfrom->nTimeOffset = nTimeOffset;
4449         AddTimeData(pfrom->addr, nTimeOffset);
4450     }
4451
4452
4453     else if (pfrom->nVersion == 0)
4454     {
4455         // Must have a version message before anything else
4456         Misbehaving(pfrom->GetId(), 1);
4457         return false;
4458     }
4459
4460
4461     else if (strCommand == "verack")
4462     {
4463         pfrom->SetRecvVersion(min(pfrom->nVersion, PROTOCOL_VERSION));
4464
4465         // Mark this node as currently connected, so we update its timestamp later.
4466         if (pfrom->fNetworkNode) {
4467             LOCK(cs_main);
4468             State(pfrom->GetId())->fCurrentlyConnected = true;
4469         }
4470     }
4471
4472
4473     else if (strCommand == "addr")
4474     {
4475         vector<CAddress> vAddr;
4476         vRecv >> vAddr;
4477
4478         // Don't want addr from older versions unless seeding
4479         if (pfrom->nVersion < CADDR_TIME_VERSION && addrman.size() > 1000)
4480             return true;
4481         if (vAddr.size() > 1000)
4482         {
4483             Misbehaving(pfrom->GetId(), 20);
4484             return error("message addr size() = %u", vAddr.size());
4485         }
4486
4487         // Store the new addresses
4488         vector<CAddress> vAddrOk;
4489         int64_t nNow = GetAdjustedTime();
4490         int64_t nSince = nNow - 10 * 60;
4491         BOOST_FOREACH(CAddress& addr, vAddr)
4492         {
4493             boost::this_thread::interruption_point();
4494
4495             if (addr.nTime <= 100000000 || addr.nTime > nNow + 10 * 60)
4496                 addr.nTime = nNow - 5 * 24 * 60 * 60;
4497             pfrom->AddAddressKnown(addr);
4498             bool fReachable = IsReachable(addr);
4499             if (addr.nTime > nSince && !pfrom->fGetAddr && vAddr.size() <= 10 && addr.IsRoutable())
4500             {
4501                 // Relay to a limited number of other nodes
4502                 {
4503                     LOCK(cs_vNodes);
4504                     // Use deterministic randomness to send to the same nodes for 24 hours
4505                     // at a time so the addrKnowns of the chosen nodes prevent repeats
4506                     static uint256 hashSalt;
4507                     if (hashSalt.IsNull())
4508                         hashSalt = GetRandHash();
4509                     uint64_t hashAddr = addr.GetHash();
4510                     uint256 hashRand = ArithToUint256(UintToArith256(hashSalt) ^ (hashAddr<<32) ^ ((GetTime()+hashAddr)/(24*60*60)));
4511                     hashRand = Hash(BEGIN(hashRand), END(hashRand));
4512                     multimap<uint256, CNode*> mapMix;
4513                     BOOST_FOREACH(CNode* pnode, vNodes)
4514                     {
4515                         if (pnode->nVersion < CADDR_TIME_VERSION)
4516                             continue;
4517                         unsigned int nPointer;
4518                         memcpy(&nPointer, &pnode, sizeof(nPointer));
4519                         uint256 hashKey = ArithToUint256(UintToArith256(hashRand) ^ nPointer);
4520                         hashKey = Hash(BEGIN(hashKey), END(hashKey));
4521                         mapMix.insert(make_pair(hashKey, pnode));
4522                     }
4523                     int nRelayNodes = fReachable ? 2 : 1; // limited relaying of addresses outside our network(s)
4524                     for (multimap<uint256, CNode*>::iterator mi = mapMix.begin(); mi != mapMix.end() && nRelayNodes-- > 0; ++mi)
4525                         ((*mi).second)->PushAddress(addr);
4526                 }
4527             }
4528             // Do not store addresses outside our network
4529             if (fReachable)
4530                 vAddrOk.push_back(addr);
4531         }
4532         addrman.Add(vAddrOk, pfrom->addr, 2 * 60 * 60);
4533         if (vAddr.size() < 1000)
4534             pfrom->fGetAddr = false;
4535         if (pfrom->fOneShot)
4536             pfrom->fDisconnect = true;
4537     }
4538
4539
4540     else if (strCommand == "inv")
4541     {
4542         vector<CInv> vInv;
4543         vRecv >> vInv;
4544         if (vInv.size() > MAX_INV_SZ)
4545         {
4546             Misbehaving(pfrom->GetId(), 20);
4547             return error("message inv size() = %u", vInv.size());
4548         }
4549
4550         LOCK(cs_main);
4551
4552         std::vector<CInv> vToFetch;
4553
4554         for (unsigned int nInv = 0; nInv < vInv.size(); nInv++)
4555         {
4556             const CInv &inv = vInv[nInv];
4557
4558             boost::this_thread::interruption_point();
4559             pfrom->AddInventoryKnown(inv);
4560
4561             bool fAlreadyHave = AlreadyHave(inv);
4562             LogPrint("net", "got inv: %s  %s peer=%d\n", inv.ToString(), fAlreadyHave ? "have" : "new", pfrom->id);
4563
4564             if (!fAlreadyHave && !fImporting && !fReindex && inv.type != MSG_BLOCK)
4565                 pfrom->AskFor(inv);
4566
4567             if (inv.type == MSG_BLOCK) {
4568                 UpdateBlockAvailability(pfrom->GetId(), inv.hash);
4569                 if (!fAlreadyHave && !fImporting && !fReindex && !mapBlocksInFlight.count(inv.hash)) {
4570                     // First request the headers preceding the announced block. In the normal fully-synced
4571                     // case where a new block is announced that succeeds the current tip (no reorganization),
4572                     // there are no such headers.
4573                     // Secondly, and only when we are close to being synced, we request the announced block directly,
4574                     // to avoid an extra round-trip. Note that we must *first* ask for the headers, so by the
4575                     // time the block arrives, the header chain leading up to it is already validated. Not
4576                     // doing this will result in the received block being rejected as an orphan in case it is
4577                     // not a direct successor.
4578                     pfrom->PushMessage("getheaders", chainActive.GetLocator(pindexBestHeader), inv.hash);
4579                     CNodeState *nodestate = State(pfrom->GetId());
4580                     if (chainActive.Tip()->GetBlockTime() > GetAdjustedTime() - chainparams.GetConsensus().nPowTargetSpacing * 20 &&
4581                         nodestate->nBlocksInFlight < MAX_BLOCKS_IN_TRANSIT_PER_PEER) {
4582                         vToFetch.push_back(inv);
4583                         // Mark block as in flight already, even though the actual "getdata" message only goes out
4584                         // later (within the same cs_main lock, though).
4585                         MarkBlockAsInFlight(pfrom->GetId(), inv.hash, chainparams.GetConsensus());
4586                     }
4587                     LogPrint("net", "getheaders (%d) %s to peer=%d\n", pindexBestHeader->nHeight, inv.hash.ToString(), pfrom->id);
4588                 }
4589             }
4590
4591             // Track requests for our stuff
4592             GetMainSignals().Inventory(inv.hash);
4593
4594             if (pfrom->nSendSize > (SendBufferSize() * 2)) {
4595                 Misbehaving(pfrom->GetId(), 50);
4596                 return error("send buffer size() = %u", pfrom->nSendSize);
4597             }
4598         }
4599
4600         if (!vToFetch.empty())
4601             pfrom->PushMessage("getdata", vToFetch);
4602     }
4603
4604
4605     else if (strCommand == "getdata")
4606     {
4607         vector<CInv> vInv;
4608         vRecv >> vInv;
4609         if (vInv.size() > MAX_INV_SZ)
4610         {
4611             Misbehaving(pfrom->GetId(), 20);
4612             return error("message getdata size() = %u", vInv.size());
4613         }
4614
4615         if (fDebug || (vInv.size() != 1))
4616             LogPrint("net", "received getdata (%u invsz) peer=%d\n", vInv.size(), pfrom->id);
4617
4618         if ((fDebug && vInv.size() > 0) || (vInv.size() == 1))
4619             LogPrint("net", "received getdata for: %s peer=%d\n", vInv[0].ToString(), pfrom->id);
4620
4621         pfrom->vRecvGetData.insert(pfrom->vRecvGetData.end(), vInv.begin(), vInv.end());
4622         ProcessGetData(pfrom);
4623     }
4624
4625
4626     else if (strCommand == "getblocks")
4627     {
4628         CBlockLocator locator;
4629         uint256 hashStop;
4630         vRecv >> locator >> hashStop;
4631
4632         LOCK(cs_main);
4633
4634         // Find the last block the caller has in the main chain
4635         CBlockIndex* pindex = FindForkInGlobalIndex(chainActive, locator);
4636
4637         // Send the rest of the chain
4638         if (pindex)
4639             pindex = chainActive.Next(pindex);
4640         int nLimit = 500;
4641         LogPrint("net", "getblocks %d to %s limit %d from peer=%d\n", (pindex ? pindex->nHeight : -1), hashStop.IsNull() ? "end" : hashStop.ToString(), nLimit, pfrom->id);
4642         for (; pindex; pindex = chainActive.Next(pindex))
4643         {
4644             if (pindex->GetBlockHash() == hashStop)
4645             {
4646                 LogPrint("net", "  getblocks stopping at %d %s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
4647                 break;
4648             }
4649             pfrom->PushInventory(CInv(MSG_BLOCK, pindex->GetBlockHash()));
4650             if (--nLimit <= 0)
4651             {
4652                 // When this block is requested, we'll send an inv that'll
4653                 // trigger the peer to getblocks the next batch of inventory.
4654                 LogPrint("net", "  getblocks stopping at limit %d %s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
4655                 pfrom->hashContinue = pindex->GetBlockHash();
4656                 break;
4657             }
4658         }
4659     }
4660
4661
4662     else if (strCommand == "getheaders")
4663     {
4664         CBlockLocator locator;
4665         uint256 hashStop;
4666         vRecv >> locator >> hashStop;
4667
4668         LOCK(cs_main);
4669
4670         if (IsInitialBlockDownload())
4671             return true;
4672
4673         CBlockIndex* pindex = NULL;
4674         if (locator.IsNull())
4675         {
4676             // If locator is null, return the hashStop block
4677             BlockMap::iterator mi = mapBlockIndex.find(hashStop);
4678             if (mi == mapBlockIndex.end())
4679                 return true;
4680             pindex = (*mi).second;
4681         }
4682         else
4683         {
4684             // Find the last block the caller has in the main chain
4685             pindex = FindForkInGlobalIndex(chainActive, locator);
4686             if (pindex)
4687                 pindex = chainActive.Next(pindex);
4688         }
4689
4690         // we must use CBlocks, as CBlockHeaders won't include the 0x00 nTx count at the end
4691         vector<CBlock> vHeaders;
4692         int nLimit = MAX_HEADERS_RESULTS;
4693         LogPrint("net", "getheaders %d to %s from peer=%d\n", (pindex ? pindex->nHeight : -1), hashStop.ToString(), pfrom->id);
4694         for (; pindex; pindex = chainActive.Next(pindex))
4695         {
4696             vHeaders.push_back(pindex->GetBlockHeader());
4697             if (--nLimit <= 0 || pindex->GetBlockHash() == hashStop)
4698                 break;
4699         }
4700         pfrom->PushMessage("headers", vHeaders);
4701     }
4702
4703
4704     else if (strCommand == "tx")
4705     {
4706         vector<uint256> vWorkQueue;
4707         vector<uint256> vEraseQueue;
4708         CTransaction tx;
4709         vRecv >> tx;
4710
4711         CInv inv(MSG_TX, tx.GetHash());
4712         pfrom->AddInventoryKnown(inv);
4713
4714         LOCK(cs_main);
4715
4716         bool fMissingInputs = false;
4717         CValidationState state;
4718
4719         pfrom->setAskFor.erase(inv.hash);
4720         mapAlreadyAskedFor.erase(inv);
4721
4722         if (!AlreadyHave(inv) && AcceptToMemoryPool(mempool, state, tx, true, &fMissingInputs))
4723         {
4724             mempool.check(pcoinsTip);
4725             RelayTransaction(tx);
4726             vWorkQueue.push_back(inv.hash);
4727
4728             LogPrint("mempool", "AcceptToMemoryPool: peer=%d %s: accepted %s (poolsz %u)\n",
4729                 pfrom->id, pfrom->cleanSubVer,
4730                 tx.GetHash().ToString(),
4731                 mempool.mapTx.size());
4732
4733             // Recursively process any orphan transactions that depended on this one
4734             set<NodeId> setMisbehaving;
4735             for (unsigned int i = 0; i < vWorkQueue.size(); i++)
4736             {
4737                 map<uint256, set<uint256> >::iterator itByPrev = mapOrphanTransactionsByPrev.find(vWorkQueue[i]);
4738                 if (itByPrev == mapOrphanTransactionsByPrev.end())
4739                     continue;
4740                 for (set<uint256>::iterator mi = itByPrev->second.begin();
4741                      mi != itByPrev->second.end();
4742                      ++mi)
4743                 {
4744                     const uint256& orphanHash = *mi;
4745                     const CTransaction& orphanTx = mapOrphanTransactions[orphanHash].tx;
4746                     NodeId fromPeer = mapOrphanTransactions[orphanHash].fromPeer;
4747                     bool fMissingInputs2 = false;
4748                     // Use a dummy CValidationState so someone can't setup nodes to counter-DoS based on orphan
4749                     // resolution (that is, feeding people an invalid transaction based on LegitTxX in order to get
4750                     // anyone relaying LegitTxX banned)
4751                     CValidationState stateDummy;
4752
4753
4754                     if (setMisbehaving.count(fromPeer))
4755                         continue;
4756                     if (AcceptToMemoryPool(mempool, stateDummy, orphanTx, true, &fMissingInputs2))
4757                     {
4758                         LogPrint("mempool", "   accepted orphan tx %s\n", orphanHash.ToString());
4759                         RelayTransaction(orphanTx);
4760                         vWorkQueue.push_back(orphanHash);
4761                         vEraseQueue.push_back(orphanHash);
4762                     }
4763                     else if (!fMissingInputs2)
4764                     {
4765                         int nDos = 0;
4766                         if (stateDummy.IsInvalid(nDos) && nDos > 0)
4767                         {
4768                             // Punish peer that gave us an invalid orphan tx
4769                             Misbehaving(fromPeer, nDos);
4770                             setMisbehaving.insert(fromPeer);
4771                             LogPrint("mempool", "   invalid orphan tx %s\n", orphanHash.ToString());
4772                         }
4773                         // Has inputs but not accepted to mempool
4774                         // Probably non-standard or insufficient fee/priority
4775                         LogPrint("mempool", "   removed orphan tx %s\n", orphanHash.ToString());
4776                         vEraseQueue.push_back(orphanHash);
4777                         assert(recentRejects);
4778                         recentRejects->insert(orphanHash);
4779                     }
4780                     mempool.check(pcoinsTip);
4781                 }
4782             }
4783
4784             BOOST_FOREACH(uint256 hash, vEraseQueue)
4785                 EraseOrphanTx(hash);
4786         }
4787         // TODO: currently, prohibit joinsplits from entering mapOrphans
4788         else if (fMissingInputs && tx.vjoinsplit.size() == 0)
4789         {
4790             AddOrphanTx(tx, pfrom->GetId());
4791
4792             // DoS prevention: do not allow mapOrphanTransactions to grow unbounded
4793             unsigned int nMaxOrphanTx = (unsigned int)std::max((int64_t)0, GetArg("-maxorphantx", DEFAULT_MAX_ORPHAN_TRANSACTIONS));
4794             unsigned int nEvicted = LimitOrphanTxSize(nMaxOrphanTx);
4795             if (nEvicted > 0)
4796                 LogPrint("mempool", "mapOrphan overflow, removed %u tx\n", nEvicted);
4797         } else {
4798             assert(recentRejects);
4799             recentRejects->insert(tx.GetHash());
4800
4801             if (pfrom->fWhitelisted) {
4802                 // Always relay transactions received from whitelisted peers, even
4803                 // if they were already in the mempool or rejected from it due
4804                 // to policy, allowing the node to function as a gateway for
4805                 // nodes hidden behind it.
4806                 //
4807                 // Never relay transactions that we would assign a non-zero DoS
4808                 // score for, as we expect peers to do the same with us in that
4809                 // case.
4810                 int nDoS = 0;
4811                 if (!state.IsInvalid(nDoS) || nDoS == 0) {
4812                     LogPrintf("Force relaying tx %s from whitelisted peer=%d\n", tx.GetHash().ToString(), pfrom->id);
4813                     RelayTransaction(tx);
4814                 } else {
4815                     LogPrintf("Not relaying invalid transaction %s from whitelisted peer=%d (%s (code %d))\n",
4816                         tx.GetHash().ToString(), pfrom->id, state.GetRejectReason(), state.GetRejectCode());
4817                 }
4818             }
4819         }
4820         int nDoS = 0;
4821         if (state.IsInvalid(nDoS))
4822         {
4823             LogPrint("mempool", "%s from peer=%d %s was not accepted into the memory pool: %s\n", tx.GetHash().ToString(),
4824                 pfrom->id, pfrom->cleanSubVer,
4825                 state.GetRejectReason());
4826             pfrom->PushMessage("reject", strCommand, state.GetRejectCode(),
4827                                state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), inv.hash);
4828             if (nDoS > 0)
4829                 Misbehaving(pfrom->GetId(), nDoS);
4830         }
4831     }
4832
4833
4834     else if (strCommand == "headers" && !fImporting && !fReindex) // Ignore headers received while importing
4835     {
4836         std::vector<CBlockHeader> headers;
4837
4838         // Bypass the normal CBlock deserialization, as we don't want to risk deserializing 2000 full blocks.
4839         unsigned int nCount = ReadCompactSize(vRecv);
4840         if (nCount > MAX_HEADERS_RESULTS) {
4841             Misbehaving(pfrom->GetId(), 20);
4842             return error("headers message size = %u", nCount);
4843         }
4844         headers.resize(nCount);
4845         for (unsigned int n = 0; n < nCount; n++) {
4846             vRecv >> headers[n];
4847             ReadCompactSize(vRecv); // ignore tx count; assume it is 0.
4848         }
4849
4850         LOCK(cs_main);
4851
4852         if (nCount == 0) {
4853             // Nothing interesting. Stop asking this peers for more headers.
4854             return true;
4855         }
4856
4857         CBlockIndex *pindexLast = NULL;
4858         BOOST_FOREACH(const CBlockHeader& header, headers) {
4859             CValidationState state;
4860             if (pindexLast != NULL && header.hashPrevBlock != pindexLast->GetBlockHash()) {
4861                 Misbehaving(pfrom->GetId(), 20);
4862                 return error("non-continuous headers sequence");
4863             }
4864             if (!AcceptBlockHeader(header, state, &pindexLast)) {
4865                 int nDoS;
4866                 if (state.IsInvalid(nDoS)) {
4867                     if (nDoS > 0)
4868                         Misbehaving(pfrom->GetId(), nDoS);
4869                     return error("invalid header received");
4870                 }
4871             }
4872         }
4873
4874         if (pindexLast)
4875             UpdateBlockAvailability(pfrom->GetId(), pindexLast->GetBlockHash());
4876
4877         if (nCount == MAX_HEADERS_RESULTS && pindexLast) {
4878             // Headers message had its maximum size; the peer may have more headers.
4879             // TODO: optimize: if pindexLast is an ancestor of chainActive.Tip or pindexBestHeader, continue
4880             // from there instead.
4881             LogPrint("net", "more getheaders (%d) to end to peer=%d (startheight:%d)\n", pindexLast->nHeight, pfrom->id, pfrom->nStartingHeight);
4882             pfrom->PushMessage("getheaders", chainActive.GetLocator(pindexLast), uint256());
4883         }
4884
4885         CheckBlockIndex();
4886     }
4887
4888     else if (strCommand == "block" && !fImporting && !fReindex) // Ignore blocks received while importing
4889     {
4890         CBlock block;
4891         vRecv >> block;
4892
4893         CInv inv(MSG_BLOCK, block.GetHash());
4894         LogPrint("net", "received block %s peer=%d\n", inv.hash.ToString(), pfrom->id);
4895
4896         pfrom->AddInventoryKnown(inv);
4897
4898         CValidationState state;
4899         // Process all blocks from whitelisted peers, even if not requested,
4900         // unless we're still syncing with the network.
4901         // Such an unrequested block may still be processed, subject to the
4902         // conditions in AcceptBlock().
4903         bool forceProcessing = pfrom->fWhitelisted && !IsInitialBlockDownload();
4904         ProcessNewBlock(state, pfrom, &block, forceProcessing, NULL);
4905         int nDoS;
4906         if (state.IsInvalid(nDoS)) {
4907             pfrom->PushMessage("reject", strCommand, state.GetRejectCode(),
4908                                state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), inv.hash);
4909             if (nDoS > 0) {
4910                 LOCK(cs_main);
4911                 Misbehaving(pfrom->GetId(), nDoS);
4912             }
4913         }
4914
4915     }
4916
4917
4918     // This asymmetric behavior for inbound and outbound connections was introduced
4919     // to prevent a fingerprinting attack: an attacker can send specific fake addresses
4920     // to users' AddrMan and later request them by sending getaddr messages.
4921     // Making nodes which are behind NAT and can only make outgoing connections ignore
4922     // the getaddr message mitigates the attack.
4923     else if ((strCommand == "getaddr") && (pfrom->fInbound))
4924     {
4925         // Only send one GetAddr response per connection to reduce resource waste
4926         //  and discourage addr stamping of INV announcements.
4927         if (pfrom->fSentAddr) {
4928             LogPrint("net", "Ignoring repeated \"getaddr\". peer=%d\n", pfrom->id);
4929             return true;
4930         }
4931         pfrom->fSentAddr = true;
4932
4933         pfrom->vAddrToSend.clear();
4934         vector<CAddress> vAddr = addrman.GetAddr();
4935         BOOST_FOREACH(const CAddress &addr, vAddr)
4936             pfrom->PushAddress(addr);
4937     }
4938
4939
4940     else if (strCommand == "mempool")
4941     {
4942         LOCK2(cs_main, pfrom->cs_filter);
4943
4944         std::vector<uint256> vtxid;
4945         mempool.queryHashes(vtxid);
4946         vector<CInv> vInv;
4947         BOOST_FOREACH(uint256& hash, vtxid) {
4948             CInv inv(MSG_TX, hash);
4949             CTransaction tx;
4950             bool fInMemPool = mempool.lookup(hash, tx);
4951             if (!fInMemPool) continue; // another thread removed since queryHashes, maybe...
4952             if ((pfrom->pfilter && pfrom->pfilter->IsRelevantAndUpdate(tx)) ||
4953                (!pfrom->pfilter))
4954                 vInv.push_back(inv);
4955             if (vInv.size() == MAX_INV_SZ) {
4956                 pfrom->PushMessage("inv", vInv);
4957                 vInv.clear();
4958             }
4959         }
4960         if (vInv.size() > 0)
4961             pfrom->PushMessage("inv", vInv);
4962     }
4963
4964
4965     else if (strCommand == "ping")
4966     {
4967         if (pfrom->nVersion > BIP0031_VERSION)
4968         {
4969             uint64_t nonce = 0;
4970             vRecv >> nonce;
4971             // Echo the message back with the nonce. This allows for two useful features:
4972             //
4973             // 1) A remote node can quickly check if the connection is operational
4974             // 2) Remote nodes can measure the latency of the network thread. If this node
4975             //    is overloaded it won't respond to pings quickly and the remote node can
4976             //    avoid sending us more work, like chain download requests.
4977             //
4978             // The nonce stops the remote getting confused between different pings: without
4979             // it, if the remote node sends a ping once per second and this node takes 5
4980             // seconds to respond to each, the 5th ping the remote sends would appear to
4981             // return very quickly.
4982             pfrom->PushMessage("pong", nonce);
4983         }
4984     }
4985
4986
4987     else if (strCommand == "pong")
4988     {
4989         int64_t pingUsecEnd = nTimeReceived;
4990         uint64_t nonce = 0;
4991         size_t nAvail = vRecv.in_avail();
4992         bool bPingFinished = false;
4993         std::string sProblem;
4994
4995         if (nAvail >= sizeof(nonce)) {
4996             vRecv >> nonce;
4997
4998             // Only process pong message if there is an outstanding ping (old ping without nonce should never pong)
4999             if (pfrom->nPingNonceSent != 0) {
5000                 if (nonce == pfrom->nPingNonceSent) {
5001                     // Matching pong received, this ping is no longer outstanding
5002                     bPingFinished = true;
5003                     int64_t pingUsecTime = pingUsecEnd - pfrom->nPingUsecStart;
5004                     if (pingUsecTime > 0) {
5005                         // Successful ping time measurement, replace previous
5006                         pfrom->nPingUsecTime = pingUsecTime;
5007                         pfrom->nMinPingUsecTime = std::min(pfrom->nMinPingUsecTime, pingUsecTime);
5008                     } else {
5009                         // This should never happen
5010                         sProblem = "Timing mishap";
5011                     }
5012                 } else {
5013                     // Nonce mismatches are normal when pings are overlapping
5014                     sProblem = "Nonce mismatch";
5015                     if (nonce == 0) {
5016                         // This is most likely a bug in another implementation somewhere; cancel this ping
5017                         bPingFinished = true;
5018                         sProblem = "Nonce zero";
5019                     }
5020                 }
5021             } else {
5022                 sProblem = "Unsolicited pong without ping";
5023             }
5024         } else {
5025             // This is most likely a bug in another implementation somewhere; cancel this ping
5026             bPingFinished = true;
5027             sProblem = "Short payload";
5028         }
5029
5030         if (!(sProblem.empty())) {
5031             LogPrint("net", "pong peer=%d %s: %s, %x expected, %x received, %u bytes\n",
5032                 pfrom->id,
5033                 pfrom->cleanSubVer,
5034                 sProblem,
5035                 pfrom->nPingNonceSent,
5036                 nonce,
5037                 nAvail);
5038         }
5039         if (bPingFinished) {
5040             pfrom->nPingNonceSent = 0;
5041         }
5042     }
5043
5044
5045     else if (fAlerts && strCommand == "alert")
5046     {
5047         CAlert alert;
5048         vRecv >> alert;
5049
5050         uint256 alertHash = alert.GetHash();
5051         if (pfrom->setKnown.count(alertHash) == 0)
5052         {
5053             if (alert.ProcessAlert(Params().AlertKey()))
5054             {
5055                 // Relay
5056                 pfrom->setKnown.insert(alertHash);
5057                 {
5058                     LOCK(cs_vNodes);
5059                     BOOST_FOREACH(CNode* pnode, vNodes)
5060                         alert.RelayTo(pnode);
5061                 }
5062             }
5063             else {
5064                 // Small DoS penalty so peers that send us lots of
5065                 // duplicate/expired/invalid-signature/whatever alerts
5066                 // eventually get banned.
5067                 // This isn't a Misbehaving(100) (immediate ban) because the
5068                 // peer might be an older or different implementation with
5069                 // a different signature key, etc.
5070                 Misbehaving(pfrom->GetId(), 10);
5071             }
5072         }
5073     }
5074
5075
5076     else if (strCommand == "filterload")
5077     {
5078         CBloomFilter filter;
5079         vRecv >> filter;
5080
5081         if (!filter.IsWithinSizeConstraints())
5082             // There is no excuse for sending a too-large filter
5083             Misbehaving(pfrom->GetId(), 100);
5084         else
5085         {
5086             LOCK(pfrom->cs_filter);
5087             delete pfrom->pfilter;
5088             pfrom->pfilter = new CBloomFilter(filter);
5089             pfrom->pfilter->UpdateEmptyFull();
5090         }
5091         pfrom->fRelayTxes = true;
5092     }
5093
5094
5095     else if (strCommand == "filteradd")
5096     {
5097         vector<unsigned char> vData;
5098         vRecv >> vData;
5099
5100         // Nodes must NEVER send a data item > 520 bytes (the max size for a script data object,
5101         // and thus, the maximum size any matched object can have) in a filteradd message
5102         if (vData.size() > MAX_SCRIPT_ELEMENT_SIZE)
5103         {
5104             Misbehaving(pfrom->GetId(), 100);
5105         } else {
5106             LOCK(pfrom->cs_filter);
5107             if (pfrom->pfilter)
5108                 pfrom->pfilter->insert(vData);
5109             else
5110                 Misbehaving(pfrom->GetId(), 100);
5111         }
5112     }
5113
5114
5115     else if (strCommand == "filterclear")
5116     {
5117         LOCK(pfrom->cs_filter);
5118         delete pfrom->pfilter;
5119         pfrom->pfilter = new CBloomFilter();
5120         pfrom->fRelayTxes = true;
5121     }
5122
5123
5124     else if (strCommand == "reject")
5125     {
5126         if (fDebug) {
5127             try {
5128                 string strMsg; unsigned char ccode; string strReason;
5129                 vRecv >> LIMITED_STRING(strMsg, CMessageHeader::COMMAND_SIZE) >> ccode >> LIMITED_STRING(strReason, MAX_REJECT_MESSAGE_LENGTH);
5130
5131                 ostringstream ss;
5132                 ss << strMsg << " code " << itostr(ccode) << ": " << strReason;
5133
5134                 if (strMsg == "block" || strMsg == "tx")
5135                 {
5136                     uint256 hash;
5137                     vRecv >> hash;
5138                     ss << ": hash " << hash.ToString();
5139                 }
5140                 LogPrint("net", "Reject %s\n", SanitizeString(ss.str()));
5141             } catch (const std::ios_base::failure&) {
5142                 // Avoid feedback loops by preventing reject messages from triggering a new reject message.
5143                 LogPrint("net", "Unparseable reject message received\n");
5144             }
5145         }
5146     }
5147
5148     else if (strCommand == "notfound") {
5149         // We do not care about the NOTFOUND message, but logging an Unknown Command
5150         // message would be undesirable as we transmit it ourselves.
5151     }
5152
5153     else {
5154         // Ignore unknown commands for extensibility
5155         LogPrint("net", "Unknown command \"%s\" from peer=%d\n", SanitizeString(strCommand), pfrom->id);
5156     }
5157
5158
5159
5160     return true;
5161 }
5162
5163 // requires LOCK(cs_vRecvMsg)
5164 bool ProcessMessages(CNode* pfrom)
5165 {
5166     //if (fDebug)
5167     //    LogPrintf("%s(%u messages)\n", __func__, pfrom->vRecvMsg.size());
5168
5169     //
5170     // Message format
5171     //  (4) message start
5172     //  (12) command
5173     //  (4) size
5174     //  (4) checksum
5175     //  (x) data
5176     //
5177     bool fOk = true;
5178
5179     if (!pfrom->vRecvGetData.empty())
5180         ProcessGetData(pfrom);
5181
5182     // this maintains the order of responses
5183     if (!pfrom->vRecvGetData.empty()) return fOk;
5184
5185     std::deque<CNetMessage>::iterator it = pfrom->vRecvMsg.begin();
5186     while (!pfrom->fDisconnect && it != pfrom->vRecvMsg.end()) {
5187         // Don't bother if send buffer is too full to respond anyway
5188         if (pfrom->nSendSize >= SendBufferSize())
5189             break;
5190
5191         // get next message
5192         CNetMessage& msg = *it;
5193
5194         //if (fDebug)
5195         //    LogPrintf("%s(message %u msgsz, %u bytes, complete:%s)\n", __func__,
5196         //            msg.hdr.nMessageSize, msg.vRecv.size(),
5197         //            msg.complete() ? "Y" : "N");
5198
5199         // end, if an incomplete message is found
5200         if (!msg.complete())
5201             break;
5202
5203         // at this point, any failure means we can delete the current message
5204         it++;
5205
5206         // Scan for message start
5207         if (memcmp(msg.hdr.pchMessageStart, Params().MessageStart(), MESSAGE_START_SIZE) != 0) {
5208             LogPrintf("PROCESSMESSAGE: INVALID MESSAGESTART %s peer=%d\n", SanitizeString(msg.hdr.GetCommand()), pfrom->id);
5209             fOk = false;
5210             break;
5211         }
5212
5213         // Read header
5214         CMessageHeader& hdr = msg.hdr;
5215         if (!hdr.IsValid(Params().MessageStart()))
5216         {
5217             LogPrintf("PROCESSMESSAGE: ERRORS IN HEADER %s peer=%d\n", SanitizeString(hdr.GetCommand()), pfrom->id);
5218             continue;
5219         }
5220         string strCommand = hdr.GetCommand();
5221
5222         // Message size
5223         unsigned int nMessageSize = hdr.nMessageSize;
5224
5225         // Checksum
5226         CDataStream& vRecv = msg.vRecv;
5227         uint256 hash = Hash(vRecv.begin(), vRecv.begin() + nMessageSize);
5228         unsigned int nChecksum = ReadLE32((unsigned char*)&hash);
5229         if (nChecksum != hdr.nChecksum)
5230         {
5231             LogPrintf("%s(%s, %u bytes): CHECKSUM ERROR nChecksum=%08x hdr.nChecksum=%08x\n", __func__,
5232                SanitizeString(strCommand), nMessageSize, nChecksum, hdr.nChecksum);
5233             continue;
5234         }
5235
5236         // Process message
5237         bool fRet = false;
5238         try
5239         {
5240             fRet = ProcessMessage(pfrom, strCommand, vRecv, msg.nTime);
5241             boost::this_thread::interruption_point();
5242         }
5243         catch (const std::ios_base::failure& e)
5244         {
5245             pfrom->PushMessage("reject", strCommand, REJECT_MALFORMED, string("error parsing message"));
5246             if (strstr(e.what(), "end of data"))
5247             {
5248                 // Allow exceptions from under-length message on vRecv
5249                 LogPrintf("%s(%s, %u bytes): Exception '%s' caught, normally caused by a message being shorter than its stated length\n", __func__, SanitizeString(strCommand), nMessageSize, e.what());
5250             }
5251             else if (strstr(e.what(), "size too large"))
5252             {
5253                 // Allow exceptions from over-long size
5254                 LogPrintf("%s(%s, %u bytes): Exception '%s' caught\n", __func__, SanitizeString(strCommand), nMessageSize, e.what());
5255             }
5256             else
5257             {
5258                 PrintExceptionContinue(&e, "ProcessMessages()");
5259             }
5260         }
5261         catch (const boost::thread_interrupted&) {
5262             throw;
5263         }
5264         catch (const std::exception& e) {
5265             PrintExceptionContinue(&e, "ProcessMessages()");
5266         } catch (...) {
5267             PrintExceptionContinue(NULL, "ProcessMessages()");
5268         }
5269
5270         if (!fRet)
5271             LogPrintf("%s(%s, %u bytes) FAILED peer=%d\n", __func__, SanitizeString(strCommand), nMessageSize, pfrom->id);
5272
5273         break;
5274     }
5275
5276     // In case the connection got shut down, its receive buffer was wiped
5277     if (!pfrom->fDisconnect)
5278         pfrom->vRecvMsg.erase(pfrom->vRecvMsg.begin(), it);
5279
5280     return fOk;
5281 }
5282
5283
5284 bool SendMessages(CNode* pto, bool fSendTrickle)
5285 {
5286     const Consensus::Params& consensusParams = Params().GetConsensus();
5287     {
5288         // Don't send anything until we get its version message
5289         if (pto->nVersion == 0)
5290             return true;
5291
5292         //
5293         // Message: ping
5294         //
5295         bool pingSend = false;
5296         if (pto->fPingQueued) {
5297             // RPC ping request by user
5298             pingSend = true;
5299         }
5300         if (pto->nPingNonceSent == 0 && pto->nPingUsecStart + PING_INTERVAL * 1000000 < GetTimeMicros()) {
5301             // Ping automatically sent as a latency probe & keepalive.
5302             pingSend = true;
5303         }
5304         if (pingSend) {
5305             uint64_t nonce = 0;
5306             while (nonce == 0) {
5307                 GetRandBytes((unsigned char*)&nonce, sizeof(nonce));
5308             }
5309             pto->fPingQueued = false;
5310             pto->nPingUsecStart = GetTimeMicros();
5311             if (pto->nVersion > BIP0031_VERSION) {
5312                 pto->nPingNonceSent = nonce;
5313                 pto->PushMessage("ping", nonce);
5314             } else {
5315                 // Peer is too old to support ping command with nonce, pong will never arrive.
5316                 pto->nPingNonceSent = 0;
5317                 pto->PushMessage("ping");
5318             }
5319         }
5320
5321         TRY_LOCK(cs_main, lockMain); // Acquire cs_main for IsInitialBlockDownload() and CNodeState()
5322         if (!lockMain)
5323             return true;
5324
5325         // Address refresh broadcast
5326         static int64_t nLastRebroadcast;
5327         if (!IsInitialBlockDownload() && (GetTime() - nLastRebroadcast > 24 * 60 * 60))
5328         {
5329             LOCK(cs_vNodes);
5330             BOOST_FOREACH(CNode* pnode, vNodes)
5331             {
5332                 // Periodically clear addrKnown to allow refresh broadcasts
5333                 if (nLastRebroadcast)
5334                     pnode->addrKnown.reset();
5335
5336                 // Rebroadcast our address
5337                 AdvertizeLocal(pnode);
5338             }
5339             if (!vNodes.empty())
5340                 nLastRebroadcast = GetTime();
5341         }
5342
5343         //
5344         // Message: addr
5345         //
5346         if (fSendTrickle)
5347         {
5348             vector<CAddress> vAddr;
5349             vAddr.reserve(pto->vAddrToSend.size());
5350             BOOST_FOREACH(const CAddress& addr, pto->vAddrToSend)
5351             {
5352                 if (!pto->addrKnown.contains(addr.GetKey()))
5353                 {
5354                     pto->addrKnown.insert(addr.GetKey());
5355                     vAddr.push_back(addr);
5356                     // receiver rejects addr messages larger than 1000
5357                     if (vAddr.size() >= 1000)
5358                     {
5359                         pto->PushMessage("addr", vAddr);
5360                         vAddr.clear();
5361                     }
5362                 }
5363             }
5364             pto->vAddrToSend.clear();
5365             if (!vAddr.empty())
5366                 pto->PushMessage("addr", vAddr);
5367         }
5368
5369         CNodeState &state = *State(pto->GetId());
5370         if (state.fShouldBan) {
5371             if (pto->fWhitelisted)
5372                 LogPrintf("Warning: not punishing whitelisted peer %s!\n", pto->addr.ToString());
5373             else {
5374                 pto->fDisconnect = true;
5375                 if (pto->addr.IsLocal())
5376                     LogPrintf("Warning: not banning local peer %s!\n", pto->addr.ToString());
5377                 else
5378                 {
5379                     CNode::Ban(pto->addr);
5380                 }
5381             }
5382             state.fShouldBan = false;
5383         }
5384
5385         BOOST_FOREACH(const CBlockReject& reject, state.rejects)
5386             pto->PushMessage("reject", (string)"block", reject.chRejectCode, reject.strRejectReason, reject.hashBlock);
5387         state.rejects.clear();
5388
5389         // Start block sync
5390         if (pindexBestHeader == NULL)
5391             pindexBestHeader = chainActive.Tip();
5392         bool fFetch = state.fPreferredDownload || (nPreferredDownload == 0 && !pto->fClient && !pto->fOneShot); // Download if this is a nice peer, or we have no nice peers and this one might do.
5393         if (!state.fSyncStarted && !pto->fClient && !fImporting && !fReindex) {
5394             // Only actively request headers from a single peer, unless we're close to today.
5395             if ((nSyncStarted == 0 && fFetch) || pindexBestHeader->GetBlockTime() > GetAdjustedTime() - 24 * 60 * 60) {
5396                 state.fSyncStarted = true;
5397                 nSyncStarted++;
5398                 CBlockIndex *pindexStart = pindexBestHeader->pprev ? pindexBestHeader->pprev : pindexBestHeader;
5399                 LogPrint("net", "initial getheaders (%d) to peer=%d (startheight:%d)\n", pindexStart->nHeight, pto->id, pto->nStartingHeight);
5400                 pto->PushMessage("getheaders", chainActive.GetLocator(pindexStart), uint256());
5401             }
5402         }
5403
5404         // Resend wallet transactions that haven't gotten in a block yet
5405         // Except during reindex, importing and IBD, when old wallet
5406         // transactions become unconfirmed and spams other nodes.
5407         if (!fReindex && !fImporting && !IsInitialBlockDownload())
5408         {
5409             GetMainSignals().Broadcast(nTimeBestReceived);
5410         }
5411
5412         //
5413         // Message: inventory
5414         //
5415         vector<CInv> vInv;
5416         vector<CInv> vInvWait;
5417         {
5418             LOCK(pto->cs_inventory);
5419             vInv.reserve(pto->vInventoryToSend.size());
5420             vInvWait.reserve(pto->vInventoryToSend.size());
5421             BOOST_FOREACH(const CInv& inv, pto->vInventoryToSend)
5422             {
5423                 if (pto->setInventoryKnown.count(inv))
5424                     continue;
5425
5426                 // trickle out tx inv to protect privacy
5427                 if (inv.type == MSG_TX && !fSendTrickle)
5428                 {
5429                     // 1/4 of tx invs blast to all immediately
5430                     static uint256 hashSalt;
5431                     if (hashSalt.IsNull())
5432                         hashSalt = GetRandHash();
5433                     uint256 hashRand = ArithToUint256(UintToArith256(inv.hash) ^ UintToArith256(hashSalt));
5434                     hashRand = Hash(BEGIN(hashRand), END(hashRand));
5435                     bool fTrickleWait = ((UintToArith256(hashRand) & 3) != 0);
5436
5437                     if (fTrickleWait)
5438                     {
5439                         vInvWait.push_back(inv);
5440                         continue;
5441                     }
5442                 }
5443
5444                 // returns true if wasn't already contained in the set
5445                 if (pto->setInventoryKnown.insert(inv).second)
5446                 {
5447                     vInv.push_back(inv);
5448                     if (vInv.size() >= 1000)
5449                     {
5450                         pto->PushMessage("inv", vInv);
5451                         vInv.clear();
5452                     }
5453                 }
5454             }
5455             pto->vInventoryToSend = vInvWait;
5456         }
5457         if (!vInv.empty())
5458             pto->PushMessage("inv", vInv);
5459
5460         // Detect whether we're stalling
5461         int64_t nNow = GetTimeMicros();
5462         if (!pto->fDisconnect && state.nStallingSince && state.nStallingSince < nNow - 1000000 * BLOCK_STALLING_TIMEOUT) {
5463             // Stalling only triggers when the block download window cannot move. During normal steady state,
5464             // the download window should be much larger than the to-be-downloaded set of blocks, so disconnection
5465             // should only happen during initial block download.
5466             LogPrintf("Peer=%d is stalling block download, disconnecting\n", pto->id);
5467             pto->fDisconnect = true;
5468         }
5469         // In case there is a block that has been in flight from this peer for (2 + 0.5 * N) times the block interval
5470         // (with N the number of validated blocks that were in flight at the time it was requested), disconnect due to
5471         // timeout. We compensate for in-flight blocks to prevent killing off peers due to our own downstream link
5472         // being saturated. We only count validated in-flight blocks so peers can't advertise non-existing block hashes
5473         // to unreasonably increase our timeout.
5474         // We also compare the block download timeout originally calculated against the time at which we'd disconnect
5475         // if we assumed the block were being requested now (ignoring blocks we've requested from this peer, since we're
5476         // only looking at this peer's oldest request).  This way a large queue in the past doesn't result in a
5477         // permanently large window for this block to be delivered (ie if the number of blocks in flight is decreasing
5478         // more quickly than once every 5 minutes, then we'll shorten the download window for this block).
5479         if (!pto->fDisconnect && state.vBlocksInFlight.size() > 0) {
5480             QueuedBlock &queuedBlock = state.vBlocksInFlight.front();
5481             int64_t nTimeoutIfRequestedNow = GetBlockTimeout(nNow, nQueuedValidatedHeaders - state.nBlocksInFlightValidHeaders, consensusParams);
5482             if (queuedBlock.nTimeDisconnect > nTimeoutIfRequestedNow) {
5483                 LogPrint("net", "Reducing block download timeout for peer=%d block=%s, orig=%d new=%d\n", pto->id, queuedBlock.hash.ToString(), queuedBlock.nTimeDisconnect, nTimeoutIfRequestedNow);
5484                 queuedBlock.nTimeDisconnect = nTimeoutIfRequestedNow;
5485             }
5486             if (queuedBlock.nTimeDisconnect < nNow) {
5487                 LogPrintf("Timeout downloading block %s from peer=%d, disconnecting\n", queuedBlock.hash.ToString(), pto->id);
5488                 pto->fDisconnect = true;
5489             }
5490         }
5491
5492         //
5493         // Message: getdata (blocks)
5494         //
5495         vector<CInv> vGetData;
5496         if (!pto->fDisconnect && !pto->fClient && (fFetch || !IsInitialBlockDownload()) && state.nBlocksInFlight < MAX_BLOCKS_IN_TRANSIT_PER_PEER) {
5497             vector<CBlockIndex*> vToDownload;
5498             NodeId staller = -1;
5499             FindNextBlocksToDownload(pto->GetId(), MAX_BLOCKS_IN_TRANSIT_PER_PEER - state.nBlocksInFlight, vToDownload, staller);
5500             BOOST_FOREACH(CBlockIndex *pindex, vToDownload) {
5501                 vGetData.push_back(CInv(MSG_BLOCK, pindex->GetBlockHash()));
5502                 MarkBlockAsInFlight(pto->GetId(), pindex->GetBlockHash(), consensusParams, pindex);
5503                 LogPrint("net", "Requesting block %s (%d) peer=%d\n", pindex->GetBlockHash().ToString(),
5504                     pindex->nHeight, pto->id);
5505             }
5506             if (state.nBlocksInFlight == 0 && staller != -1) {
5507                 if (State(staller)->nStallingSince == 0) {
5508                     State(staller)->nStallingSince = nNow;
5509                     LogPrint("net", "Stall started peer=%d\n", staller);
5510                 }
5511             }
5512         }
5513
5514         //
5515         // Message: getdata (non-blocks)
5516         //
5517         while (!pto->fDisconnect && !pto->mapAskFor.empty() && (*pto->mapAskFor.begin()).first <= nNow)
5518         {
5519             const CInv& inv = (*pto->mapAskFor.begin()).second;
5520             if (!AlreadyHave(inv))
5521             {
5522                 if (fDebug)
5523                     LogPrint("net", "Requesting %s peer=%d\n", inv.ToString(), pto->id);
5524                 vGetData.push_back(inv);
5525                 if (vGetData.size() >= 1000)
5526                 {
5527                     pto->PushMessage("getdata", vGetData);
5528                     vGetData.clear();
5529                 }
5530             } else {
5531                 //If we're not going to ask, don't expect a response.
5532                 pto->setAskFor.erase(inv.hash);
5533             }
5534             pto->mapAskFor.erase(pto->mapAskFor.begin());
5535         }
5536         if (!vGetData.empty())
5537             pto->PushMessage("getdata", vGetData);
5538
5539     }
5540     return true;
5541 }
5542
5543  std::string CBlockFileInfo::ToString() const {
5544      return strprintf("CBlockFileInfo(blocks=%u, size=%u, heights=%u...%u, time=%s...%s)", nBlocks, nSize, nHeightFirst, nHeightLast, DateTimeStrFormat("%Y-%m-%d", nTimeFirst), DateTimeStrFormat("%Y-%m-%d", nTimeLast));
5545  }
5546
5547
5548
5549 class CMainCleanup
5550 {
5551 public:
5552     CMainCleanup() {}
5553     ~CMainCleanup() {
5554         // block headers
5555         BlockMap::iterator it1 = mapBlockIndex.begin();
5556         for (; it1 != mapBlockIndex.end(); it1++)
5557             delete (*it1).second;
5558         mapBlockIndex.clear();
5559
5560         // orphan transactions
5561         mapOrphanTransactions.clear();
5562         mapOrphanTransactionsByPrev.clear();
5563     }
5564 } instance_of_cmaincleanup;
This page took 0.339312 seconds and 4 git commands to generate.