]> Git Repo - VerusCoin.git/blob - src/main.cpp
a3de5e6d7b7d7eb437e9daac8d0f3234643093d2
[VerusCoin.git] / src / main.cpp
1 // Copyright (c) 2009-2010 Satoshi Nakamoto
2 // Copyright (c) 2009-2014 The Bitcoin Core developers
3 // Distributed under the MIT software license, see the accompanying
4 // file COPYING or http://www.opensource.org/licenses/mit-license.php.
5
6 #include "main.h"
7
8 #include "sodium.h"
9
10 #include "addrman.h"
11 #include "alert.h"
12 #include "arith_uint256.h"
13 #include "chainparams.h"
14 #include "checkpoints.h"
15 #include "checkqueue.h"
16 #include "consensus/validation.h"
17 #include "deprecation.h"
18 #include "init.h"
19 #include "merkleblock.h"
20 #include "metrics.h"
21 #include "net.h"
22 #include "pow.h"
23 #include "txdb.h"
24 #include "txmempool.h"
25 #include "ui_interface.h"
26 #include "undo.h"
27 #include "util.h"
28 #include "utilmoneystr.h"
29 #include "validationinterface.h"
30 #include "wallet/asyncrpcoperation_sendmany.h"
31
32 #include <sstream>
33
34 #include <boost/algorithm/string/replace.hpp>
35 #include <boost/filesystem.hpp>
36 #include <boost/filesystem/fstream.hpp>
37 #include <boost/math/distributions/poisson.hpp>
38 #include <boost/thread.hpp>
39 #include <boost/static_assert.hpp>
40
41 using namespace std;
42
43 #if defined(NDEBUG)
44 # error "Zcash cannot be compiled without assertions."
45 #endif
46
47 /**
48  * Global state
49  */
50
51 CCriticalSection cs_main;
52
53 BlockMap mapBlockIndex;
54 CChain chainActive;
55 CBlockIndex *pindexBestHeader = NULL;
56 int64_t nTimeBestReceived = 0;
57 CWaitableCriticalSection csBestBlock;
58 CConditionVariable cvBlockChange;
59 int nScriptCheckThreads = 0;
60 bool fExperimentalMode = false;
61 bool fImporting = false;
62 bool fReindex = false;
63 bool fTxIndex = false;
64 bool fHavePruned = false;
65 bool fPruneMode = false;
66 bool fIsBareMultisigStd = true;
67 bool fCheckBlockIndex = false;
68 bool fCheckpointsEnabled = true;
69 bool fCoinbaseEnforcedProtectionEnabled = true;
70 size_t nCoinCacheUsage = 5000 * 300;
71 uint64_t nPruneTarget = 0;
72 bool fAlerts = DEFAULT_ALERTS;
73
74 /** Fees smaller than this (in satoshi) are considered zero fee (for relaying and mining) */
75 CFeeRate minRelayTxFee = CFeeRate(DEFAULT_MIN_RELAY_TX_FEE);
76
77 CTxMemPool mempool(::minRelayTxFee);
78
79 struct COrphanTx {
80     CTransaction tx;
81     NodeId fromPeer;
82 };
83 map<uint256, COrphanTx> mapOrphanTransactions GUARDED_BY(cs_main);;
84 map<uint256, set<uint256> > mapOrphanTransactionsByPrev GUARDED_BY(cs_main);;
85 void EraseOrphansFor(NodeId peer) EXCLUSIVE_LOCKS_REQUIRED(cs_main);
86
87 /**
88  * Returns true if there are nRequired or more blocks of minVersion or above
89  * in the last Consensus::Params::nMajorityWindow blocks, starting at pstart and going backwards.
90  */
91 static bool IsSuperMajority(int minVersion, const CBlockIndex* pstart, unsigned nRequired, const Consensus::Params& consensusParams);
92 static void CheckBlockIndex();
93
94 /** Constant stuff for coinbase transactions we create: */
95 CScript COINBASE_FLAGS;
96
97 const string strMessageMagic = "Zcash Signed Message:\n";
98
99 // Internal stuff
100 namespace {
101
102     struct CBlockIndexWorkComparator
103     {
104         bool operator()(CBlockIndex *pa, CBlockIndex *pb) const {
105             // First sort by most total work, ...
106             if (pa->nChainWork > pb->nChainWork) return false;
107             if (pa->nChainWork < pb->nChainWork) return true;
108
109             // ... then by earliest time received, ...
110             if (pa->nSequenceId < pb->nSequenceId) return false;
111             if (pa->nSequenceId > pb->nSequenceId) return true;
112
113             // Use pointer address as tie breaker (should only happen with blocks
114             // loaded from disk, as those all have id 0).
115             if (pa < pb) return false;
116             if (pa > pb) return true;
117
118             // Identical blocks.
119             return false;
120         }
121     };
122
123     CBlockIndex *pindexBestInvalid;
124
125     /**
126      * The set of all CBlockIndex entries with BLOCK_VALID_TRANSACTIONS (for itself and all ancestors) and
127      * as good as our current tip or better. Entries may be failed, though, and pruning nodes may be
128      * missing the data for the block.
129      */
130     set<CBlockIndex*, CBlockIndexWorkComparator> setBlockIndexCandidates;
131     /** Number of nodes with fSyncStarted. */
132     int nSyncStarted = 0;
133     /** All pairs A->B, where A (or one if its ancestors) misses transactions, but B has transactions.
134       * Pruned nodes may have entries where B is missing data.
135       */
136     multimap<CBlockIndex*, CBlockIndex*> mapBlocksUnlinked;
137
138     CCriticalSection cs_LastBlockFile;
139     std::vector<CBlockFileInfo> vinfoBlockFile;
140     int nLastBlockFile = 0;
141     /** Global flag to indicate we should check to see if there are
142      *  block/undo files that should be deleted.  Set on startup
143      *  or if we allocate more file space when we're in prune mode
144      */
145     bool fCheckForPruning = false;
146
147     /**
148      * Every received block is assigned a unique and increasing identifier, so we
149      * know which one to give priority in case of a fork.
150      */
151     CCriticalSection cs_nBlockSequenceId;
152     /** Blocks loaded from disk are assigned id 0, so start the counter at 1. */
153     uint32_t nBlockSequenceId = 1;
154
155     /**
156      * Sources of received blocks, saved to be able to send them reject
157      * messages or ban them when processing happens afterwards. Protected by
158      * cs_main.
159      */
160     map<uint256, NodeId> mapBlockSource;
161
162     /**
163      * Filter for transactions that were recently rejected by
164      * AcceptToMemoryPool. These are not rerequested until the chain tip
165      * changes, at which point the entire filter is reset. Protected by
166      * cs_main.
167      *
168      * Without this filter we'd be re-requesting txs from each of our peers,
169      * increasing bandwidth consumption considerably. For instance, with 100
170      * peers, half of which relay a tx we don't accept, that might be a 50x
171      * bandwidth increase. A flooding attacker attempting to roll-over the
172      * filter using minimum-sized, 60byte, transactions might manage to send
173      * 1000/sec if we have fast peers, so we pick 120,000 to give our peers a
174      * two minute window to send invs to us.
175      *
176      * Decreasing the false positive rate is fairly cheap, so we pick one in a
177      * million to make it highly unlikely for users to have issues with this
178      * filter.
179      *
180      * Memory used: 1.7MB
181      */
182     boost::scoped_ptr<CRollingBloomFilter> recentRejects;
183     uint256 hashRecentRejectsChainTip;
184
185     /** Blocks that are in flight, and that are in the queue to be downloaded. Protected by cs_main. */
186     struct QueuedBlock {
187         uint256 hash;
188         CBlockIndex *pindex;  //! Optional.
189         int64_t nTime;  //! Time of "getdata" request in microseconds.
190         bool fValidatedHeaders;  //! Whether this block has validated headers at the time of request.
191         int64_t nTimeDisconnect; //! The timeout for this block request (for disconnecting a slow peer)
192     };
193     map<uint256, pair<NodeId, list<QueuedBlock>::iterator> > mapBlocksInFlight;
194
195     /** Number of blocks in flight with validated headers. */
196     int nQueuedValidatedHeaders = 0;
197
198     /** Number of preferable block download peers. */
199     int nPreferredDownload = 0;
200
201     /** Dirty block index entries. */
202     set<CBlockIndex*> setDirtyBlockIndex;
203
204     /** Dirty block file entries. */
205     set<int> setDirtyFileInfo;
206 } // anon namespace
207
208 //////////////////////////////////////////////////////////////////////////////
209 //
210 // Registration of network node signals.
211 //
212
213 namespace {
214
215 struct CBlockReject {
216     unsigned char chRejectCode;
217     string strRejectReason;
218     uint256 hashBlock;
219 };
220
221 /**
222  * Maintain validation-specific state about nodes, protected by cs_main, instead
223  * by CNode's own locks. This simplifies asynchronous operation, where
224  * processing of incoming data is done after the ProcessMessage call returns,
225  * and we're no longer holding the node's locks.
226  */
227 struct CNodeState {
228     //! The peer's address
229     CService address;
230     //! Whether we have a fully established connection.
231     bool fCurrentlyConnected;
232     //! Accumulated misbehaviour score for this peer.
233     int nMisbehavior;
234     //! Whether this peer should be disconnected and banned (unless whitelisted).
235     bool fShouldBan;
236     //! String name of this peer (debugging/logging purposes).
237     std::string name;
238     //! List of asynchronously-determined block rejections to notify this peer about.
239     std::vector<CBlockReject> rejects;
240     //! The best known block we know this peer has announced.
241     CBlockIndex *pindexBestKnownBlock;
242     //! The hash of the last unknown block this peer has announced.
243     uint256 hashLastUnknownBlock;
244     //! The last full block we both have.
245     CBlockIndex *pindexLastCommonBlock;
246     //! Whether we've started headers synchronization with this peer.
247     bool fSyncStarted;
248     //! Since when we're stalling block download progress (in microseconds), or 0.
249     int64_t nStallingSince;
250     list<QueuedBlock> vBlocksInFlight;
251     int nBlocksInFlight;
252     int nBlocksInFlightValidHeaders;
253     //! Whether we consider this a preferred download peer.
254     bool fPreferredDownload;
255
256     CNodeState() {
257         fCurrentlyConnected = false;
258         nMisbehavior = 0;
259         fShouldBan = false;
260         pindexBestKnownBlock = NULL;
261         hashLastUnknownBlock.SetNull();
262         pindexLastCommonBlock = NULL;
263         fSyncStarted = false;
264         nStallingSince = 0;
265         nBlocksInFlight = 0;
266         nBlocksInFlightValidHeaders = 0;
267         fPreferredDownload = false;
268     }
269 };
270
271 /** Map maintaining per-node state. Requires cs_main. */
272 map<NodeId, CNodeState> mapNodeState;
273
274 // Requires cs_main.
275 CNodeState *State(NodeId pnode) {
276     map<NodeId, CNodeState>::iterator it = mapNodeState.find(pnode);
277     if (it == mapNodeState.end())
278         return NULL;
279     return &it->second;
280 }
281
282 int GetHeight()
283 {
284     LOCK(cs_main);
285     return chainActive.Height();
286 }
287
288 void UpdatePreferredDownload(CNode* node, CNodeState* state)
289 {
290     nPreferredDownload -= state->fPreferredDownload;
291
292     // Whether this node should be marked as a preferred download node.
293     state->fPreferredDownload = (!node->fInbound || node->fWhitelisted) && !node->fOneShot && !node->fClient;
294
295     nPreferredDownload += state->fPreferredDownload;
296 }
297
298 // Returns time at which to timeout block request (nTime in microseconds)
299 int64_t GetBlockTimeout(int64_t nTime, int nValidatedQueuedBefore, const Consensus::Params &consensusParams)
300 {
301     return nTime + 500000 * consensusParams.nPowTargetSpacing * (4 + nValidatedQueuedBefore);
302 }
303
304 void InitializeNode(NodeId nodeid, const CNode *pnode) {
305     LOCK(cs_main);
306     CNodeState &state = mapNodeState.insert(std::make_pair(nodeid, CNodeState())).first->second;
307     state.name = pnode->addrName;
308     state.address = pnode->addr;
309 }
310
311 void FinalizeNode(NodeId nodeid) {
312     LOCK(cs_main);
313     CNodeState *state = State(nodeid);
314
315     if (state->fSyncStarted)
316         nSyncStarted--;
317
318     if (state->nMisbehavior == 0 && state->fCurrentlyConnected) {
319         AddressCurrentlyConnected(state->address);
320     }
321
322     BOOST_FOREACH(const QueuedBlock& entry, state->vBlocksInFlight)
323         mapBlocksInFlight.erase(entry.hash);
324     EraseOrphansFor(nodeid);
325     nPreferredDownload -= state->fPreferredDownload;
326
327     mapNodeState.erase(nodeid);
328 }
329
330 // Requires cs_main.
331 // Returns a bool indicating whether we requested this block.
332 bool MarkBlockAsReceived(const uint256& hash) {
333     map<uint256, pair<NodeId, list<QueuedBlock>::iterator> >::iterator itInFlight = mapBlocksInFlight.find(hash);
334     if (itInFlight != mapBlocksInFlight.end()) {
335         CNodeState *state = State(itInFlight->second.first);
336         nQueuedValidatedHeaders -= itInFlight->second.second->fValidatedHeaders;
337         state->nBlocksInFlightValidHeaders -= itInFlight->second.second->fValidatedHeaders;
338         state->vBlocksInFlight.erase(itInFlight->second.second);
339         state->nBlocksInFlight--;
340         state->nStallingSince = 0;
341         mapBlocksInFlight.erase(itInFlight);
342         return true;
343     }
344     return false;
345 }
346
347 // Requires cs_main.
348 void MarkBlockAsInFlight(NodeId nodeid, const uint256& hash, const Consensus::Params& consensusParams, CBlockIndex *pindex = NULL) {
349     CNodeState *state = State(nodeid);
350     assert(state != NULL);
351
352     // Make sure it's not listed somewhere already.
353     MarkBlockAsReceived(hash);
354
355     int64_t nNow = GetTimeMicros();
356     QueuedBlock newentry = {hash, pindex, nNow, pindex != NULL, GetBlockTimeout(nNow, nQueuedValidatedHeaders, consensusParams)};
357     nQueuedValidatedHeaders += newentry.fValidatedHeaders;
358     list<QueuedBlock>::iterator it = state->vBlocksInFlight.insert(state->vBlocksInFlight.end(), newentry);
359     state->nBlocksInFlight++;
360     state->nBlocksInFlightValidHeaders += newentry.fValidatedHeaders;
361     mapBlocksInFlight[hash] = std::make_pair(nodeid, it);
362 }
363
364 /** Check whether the last unknown block a peer advertized is not yet known. */
365 void ProcessBlockAvailability(NodeId nodeid) {
366     CNodeState *state = State(nodeid);
367     assert(state != NULL);
368
369     if (!state->hashLastUnknownBlock.IsNull()) {
370         BlockMap::iterator itOld = mapBlockIndex.find(state->hashLastUnknownBlock);
371         if (itOld != mapBlockIndex.end() && itOld->second->nChainWork > 0) {
372             if (state->pindexBestKnownBlock == NULL || itOld->second->nChainWork >= state->pindexBestKnownBlock->nChainWork)
373                 state->pindexBestKnownBlock = itOld->second;
374             state->hashLastUnknownBlock.SetNull();
375         }
376     }
377 }
378
379 /** Update tracking information about which blocks a peer is assumed to have. */
380 void UpdateBlockAvailability(NodeId nodeid, const uint256 &hash) {
381     CNodeState *state = State(nodeid);
382     assert(state != NULL);
383
384     ProcessBlockAvailability(nodeid);
385
386     BlockMap::iterator it = mapBlockIndex.find(hash);
387     if (it != mapBlockIndex.end() && it->second->nChainWork > 0) {
388         // An actually better block was announced.
389         if (state->pindexBestKnownBlock == NULL || it->second->nChainWork >= state->pindexBestKnownBlock->nChainWork)
390             state->pindexBestKnownBlock = it->second;
391     } else {
392         // An unknown block was announced; just assume that the latest one is the best one.
393         state->hashLastUnknownBlock = hash;
394     }
395 }
396
397 /** Find the last common ancestor two blocks have.
398  *  Both pa and pb must be non-NULL. */
399 CBlockIndex* LastCommonAncestor(CBlockIndex* pa, CBlockIndex* pb) {
400     if (pa->nHeight > pb->nHeight) {
401         pa = pa->GetAncestor(pb->nHeight);
402     } else if (pb->nHeight > pa->nHeight) {
403         pb = pb->GetAncestor(pa->nHeight);
404     }
405
406     while (pa != pb && pa && pb) {
407         pa = pa->pprev;
408         pb = pb->pprev;
409     }
410
411     // Eventually all chain branches meet at the genesis block.
412     assert(pa == pb);
413     return pa;
414 }
415
416 /** Update pindexLastCommonBlock and add not-in-flight missing successors to vBlocks, until it has
417  *  at most count entries. */
418 void FindNextBlocksToDownload(NodeId nodeid, unsigned int count, std::vector<CBlockIndex*>& vBlocks, NodeId& nodeStaller) {
419     if (count == 0)
420         return;
421
422     vBlocks.reserve(vBlocks.size() + count);
423     CNodeState *state = State(nodeid);
424     assert(state != NULL);
425
426     // Make sure pindexBestKnownBlock is up to date, we'll need it.
427     ProcessBlockAvailability(nodeid);
428
429     if (state->pindexBestKnownBlock == NULL || state->pindexBestKnownBlock->nChainWork < chainActive.Tip()->nChainWork) {
430         // This peer has nothing interesting.
431         return;
432     }
433
434     if (state->pindexLastCommonBlock == NULL) {
435         // Bootstrap quickly by guessing a parent of our best tip is the forking point.
436         // Guessing wrong in either direction is not a problem.
437         state->pindexLastCommonBlock = chainActive[std::min(state->pindexBestKnownBlock->nHeight, chainActive.Height())];
438     }
439
440     // If the peer reorganized, our previous pindexLastCommonBlock may not be an ancestor
441     // of its current tip anymore. Go back enough to fix that.
442     state->pindexLastCommonBlock = LastCommonAncestor(state->pindexLastCommonBlock, state->pindexBestKnownBlock);
443     if (state->pindexLastCommonBlock == state->pindexBestKnownBlock)
444         return;
445
446     std::vector<CBlockIndex*> vToFetch;
447     CBlockIndex *pindexWalk = state->pindexLastCommonBlock;
448     // Never fetch further than the best block we know the peer has, or more than BLOCK_DOWNLOAD_WINDOW + 1 beyond the last
449     // linked block we have in common with this peer. The +1 is so we can detect stalling, namely if we would be able to
450     // download that next block if the window were 1 larger.
451     int nWindowEnd = state->pindexLastCommonBlock->nHeight + BLOCK_DOWNLOAD_WINDOW;
452     int nMaxHeight = std::min<int>(state->pindexBestKnownBlock->nHeight, nWindowEnd + 1);
453     NodeId waitingfor = -1;
454     while (pindexWalk->nHeight < nMaxHeight) {
455         // Read up to 128 (or more, if more blocks than that are needed) successors of pindexWalk (towards
456         // pindexBestKnownBlock) into vToFetch. We fetch 128, because CBlockIndex::GetAncestor may be as expensive
457         // as iterating over ~100 CBlockIndex* entries anyway.
458         int nToFetch = std::min(nMaxHeight - pindexWalk->nHeight, std::max<int>(count - vBlocks.size(), 128));
459         vToFetch.resize(nToFetch);
460         pindexWalk = state->pindexBestKnownBlock->GetAncestor(pindexWalk->nHeight + nToFetch);
461         vToFetch[nToFetch - 1] = pindexWalk;
462         for (unsigned int i = nToFetch - 1; i > 0; i--) {
463             vToFetch[i - 1] = vToFetch[i]->pprev;
464         }
465
466         // Iterate over those blocks in vToFetch (in forward direction), adding the ones that
467         // are not yet downloaded and not in flight to vBlocks. In the mean time, update
468         // pindexLastCommonBlock as long as all ancestors are already downloaded, or if it's
469         // already part of our chain (and therefore don't need it even if pruned).
470         BOOST_FOREACH(CBlockIndex* pindex, vToFetch) {
471             if (!pindex->IsValid(BLOCK_VALID_TREE)) {
472                 // We consider the chain that this peer is on invalid.
473                 return;
474             }
475             if (pindex->nStatus & BLOCK_HAVE_DATA || chainActive.Contains(pindex)) {
476                 if (pindex->nChainTx)
477                     state->pindexLastCommonBlock = pindex;
478             } else if (mapBlocksInFlight.count(pindex->GetBlockHash()) == 0) {
479                 // The block is not already downloaded, and not yet in flight.
480                 if (pindex->nHeight > nWindowEnd) {
481                     // We reached the end of the window.
482                     if (vBlocks.size() == 0 && waitingfor != nodeid) {
483                         // We aren't able to fetch anything, but we would be if the download window was one larger.
484                         nodeStaller = waitingfor;
485                     }
486                     return;
487                 }
488                 vBlocks.push_back(pindex);
489                 if (vBlocks.size() == count) {
490                     return;
491                 }
492             } else if (waitingfor == -1) {
493                 // This is the first already-in-flight block.
494                 waitingfor = mapBlocksInFlight[pindex->GetBlockHash()].first;
495             }
496         }
497     }
498 }
499
500 } // anon namespace
501
502 bool GetNodeStateStats(NodeId nodeid, CNodeStateStats &stats) {
503     LOCK(cs_main);
504     CNodeState *state = State(nodeid);
505     if (state == NULL)
506         return false;
507     stats.nMisbehavior = state->nMisbehavior;
508     stats.nSyncHeight = state->pindexBestKnownBlock ? state->pindexBestKnownBlock->nHeight : -1;
509     stats.nCommonHeight = state->pindexLastCommonBlock ? state->pindexLastCommonBlock->nHeight : -1;
510     BOOST_FOREACH(const QueuedBlock& queue, state->vBlocksInFlight) {
511         if (queue.pindex)
512             stats.vHeightInFlight.push_back(queue.pindex->nHeight);
513     }
514     return true;
515 }
516
517 void RegisterNodeSignals(CNodeSignals& nodeSignals)
518 {
519     nodeSignals.GetHeight.connect(&GetHeight);
520     nodeSignals.ProcessMessages.connect(&ProcessMessages);
521     nodeSignals.SendMessages.connect(&SendMessages);
522     nodeSignals.InitializeNode.connect(&InitializeNode);
523     nodeSignals.FinalizeNode.connect(&FinalizeNode);
524 }
525
526 void UnregisterNodeSignals(CNodeSignals& nodeSignals)
527 {
528     nodeSignals.GetHeight.disconnect(&GetHeight);
529     nodeSignals.ProcessMessages.disconnect(&ProcessMessages);
530     nodeSignals.SendMessages.disconnect(&SendMessages);
531     nodeSignals.InitializeNode.disconnect(&InitializeNode);
532     nodeSignals.FinalizeNode.disconnect(&FinalizeNode);
533 }
534
535 CBlockIndex* FindForkInGlobalIndex(const CChain& chain, const CBlockLocator& locator)
536 {
537     // Find the first block the caller has in the main chain
538     BOOST_FOREACH(const uint256& hash, locator.vHave) {
539         BlockMap::iterator mi = mapBlockIndex.find(hash);
540         if (mi != mapBlockIndex.end())
541         {
542             CBlockIndex* pindex = (*mi).second;
543             if (chain.Contains(pindex))
544                 return pindex;
545         }
546     }
547     return chain.Genesis();
548 }
549
550 CCoinsViewCache *pcoinsTip = NULL;
551 CBlockTreeDB *pblocktree = NULL;
552
553 //////////////////////////////////////////////////////////////////////////////
554 //
555 // mapOrphanTransactions
556 //
557
558 bool AddOrphanTx(const CTransaction& tx, NodeId peer) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
559 {
560     uint256 hash = tx.GetHash();
561     if (mapOrphanTransactions.count(hash))
562         return false;
563
564     // Ignore big transactions, to avoid a
565     // send-big-orphans memory exhaustion attack. If a peer has a legitimate
566     // large transaction with a missing parent then we assume
567     // it will rebroadcast it later, after the parent transaction(s)
568     // have been mined or received.
569     // 10,000 orphans, each of which is at most 5,000 bytes big is
570     // at most 500 megabytes of orphans:
571     unsigned int sz = tx.GetSerializeSize(SER_NETWORK, tx.nVersion);
572     if (sz > 5000)
573     {
574         LogPrint("mempool", "ignoring large orphan tx (size: %u, hash: %s)\n", sz, hash.ToString());
575         return false;
576     }
577
578     mapOrphanTransactions[hash].tx = tx;
579     mapOrphanTransactions[hash].fromPeer = peer;
580     BOOST_FOREACH(const CTxIn& txin, tx.vin)
581         mapOrphanTransactionsByPrev[txin.prevout.hash].insert(hash);
582
583     LogPrint("mempool", "stored orphan tx %s (mapsz %u prevsz %u)\n", hash.ToString(),
584              mapOrphanTransactions.size(), mapOrphanTransactionsByPrev.size());
585     return true;
586 }
587
588 void static EraseOrphanTx(uint256 hash) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
589 {
590     map<uint256, COrphanTx>::iterator it = mapOrphanTransactions.find(hash);
591     if (it == mapOrphanTransactions.end())
592         return;
593     BOOST_FOREACH(const CTxIn& txin, it->second.tx.vin)
594     {
595         map<uint256, set<uint256> >::iterator itPrev = mapOrphanTransactionsByPrev.find(txin.prevout.hash);
596         if (itPrev == mapOrphanTransactionsByPrev.end())
597             continue;
598         itPrev->second.erase(hash);
599         if (itPrev->second.empty())
600             mapOrphanTransactionsByPrev.erase(itPrev);
601     }
602     mapOrphanTransactions.erase(it);
603 }
604
605 void EraseOrphansFor(NodeId peer)
606 {
607     int nErased = 0;
608     map<uint256, COrphanTx>::iterator iter = mapOrphanTransactions.begin();
609     while (iter != mapOrphanTransactions.end())
610     {
611         map<uint256, COrphanTx>::iterator maybeErase = iter++; // increment to avoid iterator becoming invalid
612         if (maybeErase->second.fromPeer == peer)
613         {
614             EraseOrphanTx(maybeErase->second.tx.GetHash());
615             ++nErased;
616         }
617     }
618     if (nErased > 0) LogPrint("mempool", "Erased %d orphan tx from peer %d\n", nErased, peer);
619 }
620
621
622 unsigned int LimitOrphanTxSize(unsigned int nMaxOrphans) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
623 {
624     unsigned int nEvicted = 0;
625     while (mapOrphanTransactions.size() > nMaxOrphans)
626     {
627         // Evict a random orphan:
628         uint256 randomhash = GetRandHash();
629         map<uint256, COrphanTx>::iterator it = mapOrphanTransactions.lower_bound(randomhash);
630         if (it == mapOrphanTransactions.end())
631             it = mapOrphanTransactions.begin();
632         EraseOrphanTx(it->first);
633         ++nEvicted;
634     }
635     return nEvicted;
636 }
637
638
639
640
641
642
643
644 bool IsStandardTx(const CTransaction& tx, string& reason)
645 {
646     if (tx.nVersion > CTransaction::MAX_CURRENT_VERSION || tx.nVersion < CTransaction::MIN_CURRENT_VERSION) {
647         reason = "version";
648         return false;
649     }
650
651     BOOST_FOREACH(const CTxIn& txin, tx.vin)
652     {
653         // Biggest 'standard' txin is a 15-of-15 P2SH multisig with compressed
654         // keys. (remember the 520 byte limit on redeemScript size) That works
655         // out to a (15*(33+1))+3=513 byte redeemScript, 513+1+15*(73+1)+3=1627
656         // bytes of scriptSig, which we round off to 1650 bytes for some minor
657         // future-proofing. That's also enough to spend a 20-of-20
658         // CHECKMULTISIG scriptPubKey, though such a scriptPubKey is not
659         // considered standard)
660         if (txin.scriptSig.size() > 1650) {
661             reason = "scriptsig-size";
662             return false;
663         }
664         if (!txin.scriptSig.IsPushOnly()) {
665             reason = "scriptsig-not-pushonly";
666             return false;
667         }
668     }
669
670     unsigned int nDataOut = 0;
671     txnouttype whichType;
672     BOOST_FOREACH(const CTxOut& txout, tx.vout) {
673         if (!::IsStandard(txout.scriptPubKey, whichType)) {
674             reason = "scriptpubkey";
675             return false;
676         }
677
678         if (whichType == TX_NULL_DATA)
679             nDataOut++;
680         else if ((whichType == TX_MULTISIG) && (!fIsBareMultisigStd)) {
681             reason = "bare-multisig";
682             return false;
683         } else if (txout.IsDust(::minRelayTxFee)) {
684             reason = "dust";
685             return false;
686         }
687     }
688
689     // only one OP_RETURN txout is permitted
690     if (nDataOut > 1) {
691         reason = "multi-op-return";
692         return false;
693     }
694
695     return true;
696 }
697
698 bool IsFinalTx(const CTransaction &tx, int nBlockHeight, int64_t nBlockTime)
699 {
700     if (tx.nLockTime == 0)
701         return true;
702     if ((int64_t)tx.nLockTime < ((int64_t)tx.nLockTime < LOCKTIME_THRESHOLD ? (int64_t)nBlockHeight : nBlockTime))
703         return true;
704     BOOST_FOREACH(const CTxIn& txin, tx.vin)
705         if (!txin.IsFinal())
706             return false;
707     return true;
708 }
709
710 bool CheckFinalTx(const CTransaction &tx, int flags)
711 {
712     AssertLockHeld(cs_main);
713
714     // By convention a negative value for flags indicates that the
715     // current network-enforced consensus rules should be used. In
716     // a future soft-fork scenario that would mean checking which
717     // rules would be enforced for the next block and setting the
718     // appropriate flags. At the present time no soft-forks are
719     // scheduled, so no flags are set.
720     flags = std::max(flags, 0);
721
722     // CheckFinalTx() uses chainActive.Height()+1 to evaluate
723     // nLockTime because when IsFinalTx() is called within
724     // CBlock::AcceptBlock(), the height of the block *being*
725     // evaluated is what is used. Thus if we want to know if a
726     // transaction can be part of the *next* block, we need to call
727     // IsFinalTx() with one more than chainActive.Height().
728     const int nBlockHeight = chainActive.Height() + 1;
729
730     // Timestamps on the other hand don't get any special treatment,
731     // because we can't know what timestamp the next block will have,
732     // and there aren't timestamp applications where it matters.
733     // However this changes once median past time-locks are enforced:
734     const int64_t nBlockTime = (flags & LOCKTIME_MEDIAN_TIME_PAST)
735                              ? chainActive.Tip()->GetMedianTimePast()
736                              : GetAdjustedTime();
737
738     return IsFinalTx(tx, nBlockHeight, nBlockTime);
739 }
740
741 /**
742  * Check transaction inputs to mitigate two
743  * potential denial-of-service attacks:
744  *
745  * 1. scriptSigs with extra data stuffed into them,
746  *    not consumed by scriptPubKey (or P2SH script)
747  * 2. P2SH scripts with a crazy number of expensive
748  *    CHECKSIG/CHECKMULTISIG operations
749  */
750 bool AreInputsStandard(const CTransaction& tx, const CCoinsViewCache& mapInputs)
751 {
752     if (tx.IsCoinBase())
753         return true; // Coinbases don't use vin normally
754
755     for (unsigned int i = 0; i < tx.vin.size(); i++)
756     {
757         const CTxOut& prev = mapInputs.GetOutputFor(tx.vin[i]);
758
759         vector<vector<unsigned char> > vSolutions;
760         txnouttype whichType;
761         // get the scriptPubKey corresponding to this input:
762         const CScript& prevScript = prev.scriptPubKey;
763         if (!Solver(prevScript, whichType, vSolutions))
764             return false;
765         int nArgsExpected = ScriptSigArgsExpected(whichType, vSolutions);
766         if (nArgsExpected < 0)
767             return false;
768
769         // Transactions with extra stuff in their scriptSigs are
770         // non-standard. Note that this EvalScript() call will
771         // be quick, because if there are any operations
772         // beside "push data" in the scriptSig
773         // IsStandardTx() will have already returned false
774         // and this method isn't called.
775         vector<vector<unsigned char> > stack;
776         if (!EvalScript(stack, tx.vin[i].scriptSig, SCRIPT_VERIFY_NONE, BaseSignatureChecker()))
777             return false;
778
779         if (whichType == TX_SCRIPTHASH)
780         {
781             if (stack.empty())
782                 return false;
783             CScript subscript(stack.back().begin(), stack.back().end());
784             vector<vector<unsigned char> > vSolutions2;
785             txnouttype whichType2;
786             if (Solver(subscript, whichType2, vSolutions2))
787             {
788                 int tmpExpected = ScriptSigArgsExpected(whichType2, vSolutions2);
789                 if (tmpExpected < 0)
790                     return false;
791                 nArgsExpected += tmpExpected;
792             }
793             else
794             {
795                 // Any other Script with less than 15 sigops OK:
796                 unsigned int sigops = subscript.GetSigOpCount(true);
797                 // ... extra data left on the stack after execution is OK, too:
798                 return (sigops <= MAX_P2SH_SIGOPS);
799             }
800         }
801
802         if (stack.size() != (unsigned int)nArgsExpected)
803             return false;
804     }
805
806     return true;
807 }
808
809 unsigned int GetLegacySigOpCount(const CTransaction& tx)
810 {
811     unsigned int nSigOps = 0;
812     BOOST_FOREACH(const CTxIn& txin, tx.vin)
813     {
814         nSigOps += txin.scriptSig.GetSigOpCount(false);
815     }
816     BOOST_FOREACH(const CTxOut& txout, tx.vout)
817     {
818         nSigOps += txout.scriptPubKey.GetSigOpCount(false);
819     }
820     return nSigOps;
821 }
822
823 unsigned int GetP2SHSigOpCount(const CTransaction& tx, const CCoinsViewCache& inputs)
824 {
825     if (tx.IsCoinBase())
826         return 0;
827
828     unsigned int nSigOps = 0;
829     for (unsigned int i = 0; i < tx.vin.size(); i++)
830     {
831         const CTxOut &prevout = inputs.GetOutputFor(tx.vin[i]);
832         if (prevout.scriptPubKey.IsPayToScriptHash())
833             nSigOps += prevout.scriptPubKey.GetSigOpCount(tx.vin[i].scriptSig);
834     }
835     return nSigOps;
836 }
837
838 bool CheckTransaction(const CTransaction& tx, CValidationState &state,
839                       libzcash::ProofVerifier& verifier)
840 {
841     // Don't count coinbase transactions because mining skews the count
842     if (!tx.IsCoinBase()) {
843         transactionsValidated.increment();
844     }
845
846     if (!CheckTransactionWithoutProofVerification(tx, state)) {
847         return false;
848     } else {
849         // Ensure that zk-SNARKs verify
850         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
851             if (!joinsplit.Verify(*pzcashParams, verifier, tx.joinSplitPubKey)) {
852                 return state.DoS(100, error("CheckTransaction(): joinsplit does not verify"),
853                                     REJECT_INVALID, "bad-txns-joinsplit-verification-failed");
854             }
855         }
856         return true;
857     }
858 }
859
860 bool CheckTransactionWithoutProofVerification(const CTransaction& tx, CValidationState &state)
861 {
862     // Basic checks that don't depend on any context
863
864     // Check transaction version
865     if (tx.nVersion < MIN_TX_VERSION) {
866         return state.DoS(100, error("CheckTransaction(): version too low"),
867                          REJECT_INVALID, "bad-txns-version-too-low");
868     }
869
870     // Transactions can contain empty `vin` and `vout` so long as
871     // `vjoinsplit` is non-empty.
872     if (tx.vin.empty() && tx.vjoinsplit.empty())
873         return state.DoS(10, error("CheckTransaction(): vin empty"),
874                          REJECT_INVALID, "bad-txns-vin-empty");
875     if (tx.vout.empty() && tx.vjoinsplit.empty())
876         return state.DoS(10, error("CheckTransaction(): vout empty"),
877                          REJECT_INVALID, "bad-txns-vout-empty");
878
879     // Size limits
880     BOOST_STATIC_ASSERT(MAX_BLOCK_SIZE > MAX_TX_SIZE); // sanity
881     if (::GetSerializeSize(tx, SER_NETWORK, PROTOCOL_VERSION) > MAX_TX_SIZE)
882         return state.DoS(100, error("CheckTransaction(): size limits failed"),
883                          REJECT_INVALID, "bad-txns-oversize");
884
885     // Check for negative or overflow output values
886     CAmount nValueOut = 0;
887     BOOST_FOREACH(const CTxOut& txout, tx.vout)
888     {
889         if (txout.nValue < 0)
890             return state.DoS(100, error("CheckTransaction(): txout.nValue negative"),
891                              REJECT_INVALID, "bad-txns-vout-negative");
892         if (txout.nValue > MAX_MONEY)
893             return state.DoS(100, error("CheckTransaction(): txout.nValue too high"),
894                              REJECT_INVALID, "bad-txns-vout-toolarge");
895         nValueOut += txout.nValue;
896         if (!MoneyRange(nValueOut))
897             return state.DoS(100, error("CheckTransaction(): txout total out of range"),
898                              REJECT_INVALID, "bad-txns-txouttotal-toolarge");
899     }
900
901     // Ensure that joinsplit values are well-formed
902     BOOST_FOREACH(const JSDescription& joinsplit, tx.vjoinsplit)
903     {
904         if (joinsplit.vpub_old < 0) {
905             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_old negative"),
906                              REJECT_INVALID, "bad-txns-vpub_old-negative");
907         }
908
909         if (joinsplit.vpub_new < 0) {
910             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new negative"),
911                              REJECT_INVALID, "bad-txns-vpub_new-negative");
912         }
913
914         if (joinsplit.vpub_old > MAX_MONEY) {
915             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_old too high"),
916                              REJECT_INVALID, "bad-txns-vpub_old-toolarge");
917         }
918
919         if (joinsplit.vpub_new > MAX_MONEY) {
920             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new too high"),
921                              REJECT_INVALID, "bad-txns-vpub_new-toolarge");
922         }
923
924         if (joinsplit.vpub_new != 0 && joinsplit.vpub_old != 0) {
925             return state.DoS(100, error("CheckTransaction(): joinsplit.vpub_new and joinsplit.vpub_old both nonzero"),
926                              REJECT_INVALID, "bad-txns-vpubs-both-nonzero");
927         }
928
929         nValueOut += joinsplit.vpub_old;
930         if (!MoneyRange(nValueOut)) {
931             return state.DoS(100, error("CheckTransaction(): txout total out of range"),
932                              REJECT_INVALID, "bad-txns-txouttotal-toolarge");
933         }
934     }
935
936     // Ensure input values do not exceed MAX_MONEY
937     // We have not resolved the txin values at this stage,
938     // but we do know what the joinsplits claim to add
939     // to the value pool.
940     {
941         CAmount nValueIn = 0;
942         for (std::vector<JSDescription>::const_iterator it(tx.vjoinsplit.begin()); it != tx.vjoinsplit.end(); ++it)
943         {
944             nValueIn += it->vpub_new;
945
946             if (!MoneyRange(it->vpub_new) || !MoneyRange(nValueIn)) {
947                 return state.DoS(100, error("CheckTransaction(): txin total out of range"),
948                                  REJECT_INVALID, "bad-txns-txintotal-toolarge");
949             }
950         }
951     }
952
953
954     // Check for duplicate inputs
955     set<COutPoint> vInOutPoints;
956     BOOST_FOREACH(const CTxIn& txin, tx.vin)
957     {
958         if (vInOutPoints.count(txin.prevout))
959             return state.DoS(100, error("CheckTransaction(): duplicate inputs"),
960                              REJECT_INVALID, "bad-txns-inputs-duplicate");
961         vInOutPoints.insert(txin.prevout);
962     }
963
964     // Check for duplicate joinsplit nullifiers in this transaction
965     set<uint256> vJoinSplitNullifiers;
966     BOOST_FOREACH(const JSDescription& joinsplit, tx.vjoinsplit)
967     {
968         BOOST_FOREACH(const uint256& nf, joinsplit.nullifiers)
969         {
970             if (vJoinSplitNullifiers.count(nf))
971                 return state.DoS(100, error("CheckTransaction(): duplicate nullifiers"),
972                              REJECT_INVALID, "bad-joinsplits-nullifiers-duplicate");
973
974             vJoinSplitNullifiers.insert(nf);
975         }
976     }
977
978     if (tx.IsCoinBase())
979     {
980         // There should be no joinsplits in a coinbase transaction
981         if (tx.vjoinsplit.size() > 0)
982             return state.DoS(100, error("CheckTransaction(): coinbase has joinsplits"),
983                              REJECT_INVALID, "bad-cb-has-joinsplits");
984
985         if (tx.vin[0].scriptSig.size() < 2 || tx.vin[0].scriptSig.size() > 100)
986             return state.DoS(100, error("CheckTransaction(): coinbase script size"),
987                              REJECT_INVALID, "bad-cb-length");
988     }
989     else
990     {
991         BOOST_FOREACH(const CTxIn& txin, tx.vin)
992             if (txin.prevout.IsNull())
993                 return state.DoS(10, error("CheckTransaction(): prevout is null"),
994                                  REJECT_INVALID, "bad-txns-prevout-null");
995
996         if (tx.vjoinsplit.size() > 0) {
997             // Empty output script.
998             CScript scriptCode;
999             uint256 dataToBeSigned;
1000             try {
1001                 dataToBeSigned = SignatureHash(scriptCode, tx, NOT_AN_INPUT, SIGHASH_ALL);
1002             } catch (std::logic_error ex) {
1003                 return state.DoS(100, error("CheckTransaction(): error computing signature hash"),
1004                                  REJECT_INVALID, "error-computing-signature-hash");
1005             }
1006
1007             BOOST_STATIC_ASSERT(crypto_sign_PUBLICKEYBYTES == 32);
1008
1009             // We rely on libsodium to check that the signature is canonical.
1010             // https://github.com/jedisct1/libsodium/commit/62911edb7ff2275cccd74bf1c8aefcc4d76924e0
1011             if (crypto_sign_verify_detached(&tx.joinSplitSig[0],
1012                                             dataToBeSigned.begin(), 32,
1013                                             tx.joinSplitPubKey.begin()
1014                                            ) != 0) {
1015                 return state.DoS(100, error("CheckTransaction(): invalid joinsplit signature"),
1016                                  REJECT_INVALID, "bad-txns-invalid-joinsplit-signature");
1017             }
1018         }
1019     }
1020
1021     return true;
1022 }
1023
1024 CAmount GetMinRelayFee(const CTransaction& tx, unsigned int nBytes, bool fAllowFree)
1025 {
1026     {
1027         LOCK(mempool.cs);
1028         uint256 hash = tx.GetHash();
1029         double dPriorityDelta = 0;
1030         CAmount nFeeDelta = 0;
1031         mempool.ApplyDeltas(hash, dPriorityDelta, nFeeDelta);
1032         if (dPriorityDelta > 0 || nFeeDelta > 0)
1033             return 0;
1034     }
1035
1036     CAmount nMinFee = ::minRelayTxFee.GetFee(nBytes);
1037
1038     if (fAllowFree)
1039     {
1040         // There is a free transaction area in blocks created by most miners,
1041         // * If we are relaying we allow transactions up to DEFAULT_BLOCK_PRIORITY_SIZE - 1000
1042         //   to be considered to fall into this category. We don't want to encourage sending
1043         //   multiple transactions instead of one big transaction to avoid fees.
1044         if (nBytes < (DEFAULT_BLOCK_PRIORITY_SIZE - 1000))
1045             nMinFee = 0;
1046     }
1047
1048     if (!MoneyRange(nMinFee))
1049         nMinFee = MAX_MONEY;
1050     return nMinFee;
1051 }
1052
1053
1054 bool AcceptToMemoryPool(CTxMemPool& pool, CValidationState &state, const CTransaction &tx, bool fLimitFree,
1055                         bool* pfMissingInputs, bool fRejectAbsurdFee)
1056 {
1057     AssertLockHeld(cs_main);
1058     if (pfMissingInputs)
1059         *pfMissingInputs = false;
1060
1061     auto verifier = libzcash::ProofVerifier::Strict();
1062     if (!CheckTransaction(tx, state, verifier))
1063         return error("AcceptToMemoryPool: CheckTransaction failed");
1064
1065     // Coinbase is only valid in a block, not as a loose transaction
1066     if (tx.IsCoinBase())
1067         return state.DoS(100, error("AcceptToMemoryPool: coinbase as individual tx"),
1068                          REJECT_INVALID, "coinbase");
1069
1070     // Rather not work on nonstandard transactions (unless -testnet/-regtest)
1071     string reason;
1072     if (Params().RequireStandard() && !IsStandardTx(tx, reason))
1073         return state.DoS(0,
1074                          error("AcceptToMemoryPool: nonstandard transaction: %s", reason),
1075                          REJECT_NONSTANDARD, reason);
1076
1077     // Only accept nLockTime-using transactions that can be mined in the next
1078     // block; we don't want our mempool filled up with transactions that can't
1079     // be mined yet.
1080     if (!CheckFinalTx(tx, STANDARD_LOCKTIME_VERIFY_FLAGS))
1081         return state.DoS(0, false, REJECT_NONSTANDARD, "non-final");
1082
1083     // is it already in the memory pool?
1084     uint256 hash = tx.GetHash();
1085     if (pool.exists(hash))
1086         return false;
1087
1088     // Check for conflicts with in-memory transactions
1089     {
1090     LOCK(pool.cs); // protect pool.mapNextTx
1091     for (unsigned int i = 0; i < tx.vin.size(); i++)
1092     {
1093         COutPoint outpoint = tx.vin[i].prevout;
1094         if (pool.mapNextTx.count(outpoint))
1095         {
1096             // Disable replacement feature for now
1097             return false;
1098         }
1099     }
1100     BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1101         BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1102             if (pool.mapNullifiers.count(nf))
1103             {
1104                 return false;
1105             }
1106         }
1107     }
1108     }
1109
1110     {
1111         CCoinsView dummy;
1112         CCoinsViewCache view(&dummy);
1113
1114         CAmount nValueIn = 0;
1115         {
1116         LOCK(pool.cs);
1117         CCoinsViewMemPool viewMemPool(pcoinsTip, pool);
1118         view.SetBackend(viewMemPool);
1119
1120         // do we already have it?
1121         if (view.HaveCoins(hash))
1122             return false;
1123
1124         // do all inputs exist?
1125         // Note that this does not check for the presence of actual outputs (see the next check for that),
1126         // and only helps with filling in pfMissingInputs (to determine missing vs spent).
1127         BOOST_FOREACH(const CTxIn txin, tx.vin) {
1128             if (!view.HaveCoins(txin.prevout.hash)) {
1129                 if (pfMissingInputs)
1130                     *pfMissingInputs = true;
1131                 return false;
1132             }
1133         }
1134
1135         // are the actual inputs available?
1136         if (!view.HaveInputs(tx))
1137             return state.Invalid(error("AcceptToMemoryPool: inputs already spent"),
1138                                  REJECT_DUPLICATE, "bad-txns-inputs-spent");
1139
1140         // are the joinsplit's requirements met?
1141         if (!view.HaveJoinSplitRequirements(tx))
1142             return state.Invalid(error("AcceptToMemoryPool: joinsplit requirements not met"),
1143                                  REJECT_DUPLICATE, "bad-txns-joinsplit-requirements-not-met");
1144
1145         // Bring the best block into scope
1146         view.GetBestBlock();
1147
1148         nValueIn = view.GetValueIn(tx);
1149
1150         // we have all inputs cached now, so switch back to dummy, so we don't need to keep lock on mempool
1151         view.SetBackend(dummy);
1152         }
1153
1154         // Check for non-standard pay-to-script-hash in inputs
1155         if (Params().RequireStandard() && !AreInputsStandard(tx, view))
1156             return error("AcceptToMemoryPool: nonstandard transaction input");
1157
1158         // Check that the transaction doesn't have an excessive number of
1159         // sigops, making it impossible to mine. Since the coinbase transaction
1160         // itself can contain sigops MAX_STANDARD_TX_SIGOPS is less than
1161         // MAX_BLOCK_SIGOPS; we still consider this an invalid rather than
1162         // merely non-standard transaction.
1163         unsigned int nSigOps = GetLegacySigOpCount(tx);
1164         nSigOps += GetP2SHSigOpCount(tx, view);
1165         if (nSigOps > MAX_STANDARD_TX_SIGOPS)
1166             return state.DoS(0,
1167                              error("AcceptToMemoryPool: too many sigops %s, %d > %d",
1168                                    hash.ToString(), nSigOps, MAX_STANDARD_TX_SIGOPS),
1169                              REJECT_NONSTANDARD, "bad-txns-too-many-sigops");
1170
1171         CAmount nValueOut = tx.GetValueOut();
1172         CAmount nFees = nValueIn-nValueOut;
1173         double dPriority = view.GetPriority(tx, chainActive.Height());
1174
1175         CTxMemPoolEntry entry(tx, nFees, GetTime(), dPriority, chainActive.Height(), mempool.HasNoInputsOf(tx));
1176         unsigned int nSize = entry.GetTxSize();
1177
1178         // Accept a tx if it contains joinsplits and has at least the default fee specified by z_sendmany.
1179         if (tx.vjoinsplit.size() > 0 && nFees >= ASYNC_RPC_OPERATION_DEFAULT_MINERS_FEE) {
1180             // In future we will we have more accurate and dynamic computation of fees for tx with joinsplits.
1181         } else {
1182             // Don't accept it if it can't get into a block
1183             CAmount txMinFee = GetMinRelayFee(tx, nSize, true);
1184             if (fLimitFree && nFees < txMinFee)
1185                 return state.DoS(0, error("AcceptToMemoryPool: not enough fees %s, %d < %d",
1186                                         hash.ToString(), nFees, txMinFee),
1187                                 REJECT_INSUFFICIENTFEE, "insufficient fee");
1188         }
1189
1190         // Require that free transactions have sufficient priority to be mined in the next block.
1191         if (GetBoolArg("-relaypriority", false) && nFees < ::minRelayTxFee.GetFee(nSize) && !AllowFree(view.GetPriority(tx, chainActive.Height() + 1))) {
1192             return state.DoS(0, false, REJECT_INSUFFICIENTFEE, "insufficient priority");
1193         }
1194
1195         // Continuously rate-limit free (really, very-low-fee) transactions
1196         // This mitigates 'penny-flooding' -- sending thousands of free transactions just to
1197         // be annoying or make others' transactions take longer to confirm.
1198         if (fLimitFree && nFees < ::minRelayTxFee.GetFee(nSize))
1199         {
1200             static CCriticalSection csFreeLimiter;
1201             static double dFreeCount;
1202             static int64_t nLastTime;
1203             int64_t nNow = GetTime();
1204
1205             LOCK(csFreeLimiter);
1206
1207             // Use an exponentially decaying ~10-minute window:
1208             dFreeCount *= pow(1.0 - 1.0/600.0, (double)(nNow - nLastTime));
1209             nLastTime = nNow;
1210             // -limitfreerelay unit is thousand-bytes-per-minute
1211             // At default rate it would take over a month to fill 1GB
1212             if (dFreeCount >= GetArg("-limitfreerelay", 15)*10*1000)
1213                 return state.DoS(0, error("AcceptToMemoryPool: free transaction rejected by rate limiter"),
1214                                  REJECT_INSUFFICIENTFEE, "rate limited free transaction");
1215             LogPrint("mempool", "Rate limit dFreeCount: %g => %g\n", dFreeCount, dFreeCount+nSize);
1216             dFreeCount += nSize;
1217         }
1218
1219         if (fRejectAbsurdFee && nFees > ::minRelayTxFee.GetFee(nSize) * 10000)
1220             return error("AcceptToMemoryPool: absurdly high fees %s, %d > %d",
1221                          hash.ToString(),
1222                          nFees, ::minRelayTxFee.GetFee(nSize) * 10000);
1223
1224         // Check against previous transactions
1225         // This is done last to help prevent CPU exhaustion denial-of-service attacks.
1226         if (!ContextualCheckInputs(tx, state, view, true, STANDARD_SCRIPT_VERIFY_FLAGS, true, Params().GetConsensus()))
1227         {
1228             return error("AcceptToMemoryPool: ConnectInputs failed %s", hash.ToString());
1229         }
1230
1231         // Check again against just the consensus-critical mandatory script
1232         // verification flags, in case of bugs in the standard flags that cause
1233         // transactions to pass as valid when they're actually invalid. For
1234         // instance the STRICTENC flag was incorrectly allowing certain
1235         // CHECKSIG NOT scripts to pass, even though they were invalid.
1236         //
1237         // There is a similar check in CreateNewBlock() to prevent creating
1238         // invalid blocks, however allowing such transactions into the mempool
1239         // can be exploited as a DoS attack.
1240         if (!ContextualCheckInputs(tx, state, view, true, MANDATORY_SCRIPT_VERIFY_FLAGS, true, Params().GetConsensus()))
1241         {
1242             return error("AcceptToMemoryPool: BUG! PLEASE REPORT THIS! ConnectInputs failed against MANDATORY but not STANDARD flags %s", hash.ToString());
1243         }
1244
1245         // Store transaction in memory
1246         pool.addUnchecked(hash, entry, !IsInitialBlockDownload());
1247     }
1248
1249     SyncWithWallets(tx, NULL);
1250
1251     return true;
1252 }
1253
1254 /** Return transaction in tx, and if it was found inside a block, its hash is placed in hashBlock */
1255 bool GetTransaction(const uint256 &hash, CTransaction &txOut, uint256 &hashBlock, bool fAllowSlow)
1256 {
1257     CBlockIndex *pindexSlow = NULL;
1258
1259     LOCK(cs_main);
1260
1261     if (mempool.lookup(hash, txOut))
1262     {
1263         return true;
1264     }
1265
1266     if (fTxIndex) {
1267         CDiskTxPos postx;
1268         if (pblocktree->ReadTxIndex(hash, postx)) {
1269             CAutoFile file(OpenBlockFile(postx, true), SER_DISK, CLIENT_VERSION);
1270             if (file.IsNull())
1271                 return error("%s: OpenBlockFile failed", __func__);
1272             CBlockHeader header;
1273             try {
1274                 file >> header;
1275                 fseek(file.Get(), postx.nTxOffset, SEEK_CUR);
1276                 file >> txOut;
1277             } catch (const std::exception& e) {
1278                 return error("%s: Deserialize or I/O error - %s", __func__, e.what());
1279             }
1280             hashBlock = header.GetHash();
1281             if (txOut.GetHash() != hash)
1282                 return error("%s: txid mismatch", __func__);
1283             return true;
1284         }
1285     }
1286
1287     if (fAllowSlow) { // use coin database to locate block that contains transaction, and scan it
1288         int nHeight = -1;
1289         {
1290             CCoinsViewCache &view = *pcoinsTip;
1291             const CCoins* coins = view.AccessCoins(hash);
1292             if (coins)
1293                 nHeight = coins->nHeight;
1294         }
1295         if (nHeight > 0)
1296             pindexSlow = chainActive[nHeight];
1297     }
1298
1299     if (pindexSlow) {
1300         CBlock block;
1301         if (ReadBlockFromDisk(block, pindexSlow)) {
1302             BOOST_FOREACH(const CTransaction &tx, block.vtx) {
1303                 if (tx.GetHash() == hash) {
1304                     txOut = tx;
1305                     hashBlock = pindexSlow->GetBlockHash();
1306                     return true;
1307                 }
1308             }
1309         }
1310     }
1311
1312     return false;
1313 }
1314
1315
1316
1317
1318
1319
1320 //////////////////////////////////////////////////////////////////////////////
1321 //
1322 // CBlock and CBlockIndex
1323 //
1324
1325 bool WriteBlockToDisk(CBlock& block, CDiskBlockPos& pos, const CMessageHeader::MessageStartChars& messageStart)
1326 {
1327     // Open history file to append
1328     CAutoFile fileout(OpenBlockFile(pos), SER_DISK, CLIENT_VERSION);
1329     if (fileout.IsNull())
1330         return error("WriteBlockToDisk: OpenBlockFile failed");
1331
1332     // Write index header
1333     unsigned int nSize = fileout.GetSerializeSize(block);
1334     fileout << FLATDATA(messageStart) << nSize;
1335
1336     // Write block
1337     long fileOutPos = ftell(fileout.Get());
1338     if (fileOutPos < 0)
1339         return error("WriteBlockToDisk: ftell failed");
1340     pos.nPos = (unsigned int)fileOutPos;
1341     fileout << block;
1342
1343     return true;
1344 }
1345
1346 bool ReadBlockFromDisk(CBlock& block, const CDiskBlockPos& pos)
1347 {
1348     block.SetNull();
1349
1350     // Open history file to read
1351     CAutoFile filein(OpenBlockFile(pos, true), SER_DISK, CLIENT_VERSION);
1352     if (filein.IsNull())
1353         return error("ReadBlockFromDisk: OpenBlockFile failed for %s", pos.ToString());
1354
1355     // Read block
1356     try {
1357         filein >> block;
1358     }
1359     catch (const std::exception& e) {
1360         return error("%s: Deserialize or I/O error - %s at %s", __func__, e.what(), pos.ToString());
1361     }
1362
1363     // Check the header
1364     if (!(CheckEquihashSolution(&block, Params()) &&
1365           CheckProofOfWork(block.GetHash(), block.nBits, Params().GetConsensus())))
1366         return error("ReadBlockFromDisk: Errors in block header at %s", pos.ToString());
1367
1368     return true;
1369 }
1370
1371 bool ReadBlockFromDisk(CBlock& block, const CBlockIndex* pindex)
1372 {
1373     if (!ReadBlockFromDisk(block, pindex->GetBlockPos()))
1374         return false;
1375     if (block.GetHash() != pindex->GetBlockHash())
1376         return error("ReadBlockFromDisk(CBlock&, CBlockIndex*): GetHash() doesn't match index for %s at %s",
1377                 pindex->ToString(), pindex->GetBlockPos().ToString());
1378     return true;
1379 }
1380
1381 CAmount GetBlockSubsidy(int nHeight, const Consensus::Params& consensusParams)
1382 {
1383     CAmount nSubsidy = 12.5 * COIN;
1384
1385     // Mining slow start
1386     // The subsidy is ramped up linearly, skipping the middle payout of
1387     // MAX_SUBSIDY/2 to keep the monetary curve consistent with no slow start.
1388     if (nHeight < consensusParams.nSubsidySlowStartInterval / 2) {
1389         nSubsidy /= consensusParams.nSubsidySlowStartInterval;
1390         nSubsidy *= nHeight;
1391         return nSubsidy;
1392     } else if (nHeight < consensusParams.nSubsidySlowStartInterval) {
1393         nSubsidy /= consensusParams.nSubsidySlowStartInterval;
1394         nSubsidy *= (nHeight+1);
1395         return nSubsidy;
1396     }
1397
1398     assert(nHeight > consensusParams.SubsidySlowStartShift());
1399     int halvings = (nHeight - consensusParams.SubsidySlowStartShift()) / consensusParams.nSubsidyHalvingInterval;
1400     // Force block reward to zero when right shift is undefined.
1401     if (halvings >= 64)
1402         return 0;
1403
1404     // Subsidy is cut in half every 840,000 blocks which will occur approximately every 4 years.
1405     nSubsidy >>= halvings;
1406     return nSubsidy;
1407 }
1408
1409 bool IsInitialBlockDownload()
1410 {
1411     const CChainParams& chainParams = Params();
1412     LOCK(cs_main);
1413     if (fImporting || fReindex)
1414         return true;
1415     if (fCheckpointsEnabled && chainActive.Height() < Checkpoints::GetTotalBlocksEstimate(chainParams.Checkpoints()))
1416         return true;
1417     static bool lockIBDState = false;
1418     if (lockIBDState)
1419         return false;
1420     bool state = (chainActive.Height() < pindexBestHeader->nHeight - 24 * 6 ||
1421             pindexBestHeader->GetBlockTime() < GetTime() - chainParams.MaxTipAge());
1422     if (!state)
1423         lockIBDState = true;
1424     return state;
1425 }
1426
1427 bool fLargeWorkForkFound = false;
1428 bool fLargeWorkInvalidChainFound = false;
1429 CBlockIndex *pindexBestForkTip = NULL, *pindexBestForkBase = NULL;
1430
1431 void CheckForkWarningConditions()
1432 {
1433     AssertLockHeld(cs_main);
1434     // Before we get past initial download, we cannot reliably alert about forks
1435     // (we assume we don't get stuck on a fork before the last checkpoint)
1436     if (IsInitialBlockDownload())
1437         return;
1438
1439     // If our best fork is no longer within 288 blocks (+/- 12 hours if no one mines it)
1440     // of our head, drop it
1441     if (pindexBestForkTip && chainActive.Height() - pindexBestForkTip->nHeight >= 288)
1442         pindexBestForkTip = NULL;
1443
1444     if (pindexBestForkTip || (pindexBestInvalid && pindexBestInvalid->nChainWork > chainActive.Tip()->nChainWork + (GetBlockProof(*chainActive.Tip()) * 6)))
1445     {
1446         if (!fLargeWorkForkFound && pindexBestForkBase)
1447         {
1448             std::string warning = std::string("'Warning: Large-work fork detected, forking after block ") +
1449                 pindexBestForkBase->phashBlock->ToString() + std::string("'");
1450             CAlert::Notify(warning, true);
1451         }
1452         if (pindexBestForkTip && pindexBestForkBase)
1453         {
1454             LogPrintf("%s: Warning: Large valid fork found\n  forking the chain at height %d (%s)\n  lasting to height %d (%s).\nChain state database corruption likely.\n", __func__,
1455                    pindexBestForkBase->nHeight, pindexBestForkBase->phashBlock->ToString(),
1456                    pindexBestForkTip->nHeight, pindexBestForkTip->phashBlock->ToString());
1457             fLargeWorkForkFound = true;
1458         }
1459         else
1460         {
1461             std::string warning = std::string("Warning: Found invalid chain at least ~6 blocks longer than our best chain.\nChain state database corruption likely.");
1462             LogPrintf("%s: %s\n", warning.c_str(), __func__);
1463             CAlert::Notify(warning, true);
1464             fLargeWorkInvalidChainFound = true;
1465         }
1466     }
1467     else
1468     {
1469         fLargeWorkForkFound = false;
1470         fLargeWorkInvalidChainFound = false;
1471     }
1472 }
1473
1474 void CheckForkWarningConditionsOnNewFork(CBlockIndex* pindexNewForkTip)
1475 {
1476     AssertLockHeld(cs_main);
1477     // If we are on a fork that is sufficiently large, set a warning flag
1478     CBlockIndex* pfork = pindexNewForkTip;
1479     CBlockIndex* plonger = chainActive.Tip();
1480     while (pfork && pfork != plonger)
1481     {
1482         while (plonger && plonger->nHeight > pfork->nHeight)
1483             plonger = plonger->pprev;
1484         if (pfork == plonger)
1485             break;
1486         pfork = pfork->pprev;
1487     }
1488
1489     // We define a condition where we should warn the user about as a fork of at least 7 blocks
1490     // with a tip within 72 blocks (+/- 3 hours if no one mines it) of ours
1491     // We use 7 blocks rather arbitrarily as it represents just under 10% of sustained network
1492     // hash rate operating on the fork.
1493     // or a chain that is entirely longer than ours and invalid (note that this should be detected by both)
1494     // We define it this way because it allows us to only store the highest fork tip (+ base) which meets
1495     // the 7-block condition and from this always have the most-likely-to-cause-warning fork
1496     if (pfork && (!pindexBestForkTip || (pindexBestForkTip && pindexNewForkTip->nHeight > pindexBestForkTip->nHeight)) &&
1497             pindexNewForkTip->nChainWork - pfork->nChainWork > (GetBlockProof(*pfork) * 7) &&
1498             chainActive.Height() - pindexNewForkTip->nHeight < 72)
1499     {
1500         pindexBestForkTip = pindexNewForkTip;
1501         pindexBestForkBase = pfork;
1502     }
1503
1504     CheckForkWarningConditions();
1505 }
1506
1507 // Requires cs_main.
1508 void Misbehaving(NodeId pnode, int howmuch)
1509 {
1510     if (howmuch == 0)
1511         return;
1512
1513     CNodeState *state = State(pnode);
1514     if (state == NULL)
1515         return;
1516
1517     state->nMisbehavior += howmuch;
1518     int banscore = GetArg("-banscore", 100);
1519     if (state->nMisbehavior >= banscore && state->nMisbehavior - howmuch < banscore)
1520     {
1521         LogPrintf("%s: %s (%d -> %d) BAN THRESHOLD EXCEEDED\n", __func__, state->name, state->nMisbehavior-howmuch, state->nMisbehavior);
1522         state->fShouldBan = true;
1523     } else
1524         LogPrintf("%s: %s (%d -> %d)\n", __func__, state->name, state->nMisbehavior-howmuch, state->nMisbehavior);
1525 }
1526
1527 void static InvalidChainFound(CBlockIndex* pindexNew)
1528 {
1529     if (!pindexBestInvalid || pindexNew->nChainWork > pindexBestInvalid->nChainWork)
1530         pindexBestInvalid = pindexNew;
1531
1532     LogPrintf("%s: invalid block=%s  height=%d  log2_work=%.8g  date=%s\n", __func__,
1533       pindexNew->GetBlockHash().ToString(), pindexNew->nHeight,
1534       log(pindexNew->nChainWork.getdouble())/log(2.0), DateTimeStrFormat("%Y-%m-%d %H:%M:%S",
1535       pindexNew->GetBlockTime()));
1536     CBlockIndex *tip = chainActive.Tip();
1537     assert (tip);
1538     LogPrintf("%s:  current best=%s  height=%d  log2_work=%.8g  date=%s\n", __func__,
1539       tip->GetBlockHash().ToString(), chainActive.Height(), log(tip->nChainWork.getdouble())/log(2.0),
1540       DateTimeStrFormat("%Y-%m-%d %H:%M:%S", tip->GetBlockTime()));
1541     CheckForkWarningConditions();
1542 }
1543
1544 void static InvalidBlockFound(CBlockIndex *pindex, const CValidationState &state) {
1545     int nDoS = 0;
1546     if (state.IsInvalid(nDoS)) {
1547         std::map<uint256, NodeId>::iterator it = mapBlockSource.find(pindex->GetBlockHash());
1548         if (it != mapBlockSource.end() && State(it->second)) {
1549             CBlockReject reject = {state.GetRejectCode(), state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), pindex->GetBlockHash()};
1550             State(it->second)->rejects.push_back(reject);
1551             if (nDoS > 0)
1552                 Misbehaving(it->second, nDoS);
1553         }
1554     }
1555     if (!state.CorruptionPossible()) {
1556         pindex->nStatus |= BLOCK_FAILED_VALID;
1557         setDirtyBlockIndex.insert(pindex);
1558         setBlockIndexCandidates.erase(pindex);
1559         InvalidChainFound(pindex);
1560     }
1561 }
1562
1563 void UpdateCoins(const CTransaction& tx, CValidationState &state, CCoinsViewCache &inputs, CTxUndo &txundo, int nHeight)
1564 {
1565     // mark inputs spent
1566     if (!tx.IsCoinBase()) {
1567         txundo.vprevout.reserve(tx.vin.size());
1568         BOOST_FOREACH(const CTxIn &txin, tx.vin) {
1569             CCoinsModifier coins = inputs.ModifyCoins(txin.prevout.hash);
1570             unsigned nPos = txin.prevout.n;
1571
1572             if (nPos >= coins->vout.size() || coins->vout[nPos].IsNull())
1573                 assert(false);
1574             // mark an outpoint spent, and construct undo information
1575             txundo.vprevout.push_back(CTxInUndo(coins->vout[nPos]));
1576             coins->Spend(nPos);
1577             if (coins->vout.size() == 0) {
1578                 CTxInUndo& undo = txundo.vprevout.back();
1579                 undo.nHeight = coins->nHeight;
1580                 undo.fCoinBase = coins->fCoinBase;
1581                 undo.nVersion = coins->nVersion;
1582             }
1583         }
1584     }
1585
1586     // spend nullifiers
1587     BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1588         BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1589             inputs.SetNullifier(nf, true);
1590         }
1591     }
1592
1593     // add outputs
1594     inputs.ModifyCoins(tx.GetHash())->FromTx(tx, nHeight);
1595 }
1596
1597 void UpdateCoins(const CTransaction& tx, CValidationState &state, CCoinsViewCache &inputs, int nHeight)
1598 {
1599     CTxUndo txundo;
1600     UpdateCoins(tx, state, inputs, txundo, nHeight);
1601 }
1602
1603 bool CScriptCheck::operator()() {
1604     const CScript &scriptSig = ptxTo->vin[nIn].scriptSig;
1605     if (!VerifyScript(scriptSig, scriptPubKey, nFlags, CachingTransactionSignatureChecker(ptxTo, nIn, cacheStore), &error)) {
1606         return ::error("CScriptCheck(): %s:%d VerifySignature failed: %s", ptxTo->GetHash().ToString(), nIn, ScriptErrorString(error));
1607     }
1608     return true;
1609 }
1610
1611 int GetSpendHeight(const CCoinsViewCache& inputs)
1612 {
1613     LOCK(cs_main);
1614     CBlockIndex* pindexPrev = mapBlockIndex.find(inputs.GetBestBlock())->second;
1615     return pindexPrev->nHeight + 1;
1616 }
1617
1618 namespace Consensus {
1619 bool CheckTxInputs(const CTransaction& tx, CValidationState& state, const CCoinsViewCache& inputs, int nSpendHeight, const Consensus::Params& consensusParams)
1620 {
1621         // This doesn't trigger the DoS code on purpose; if it did, it would make it easier
1622         // for an attacker to attempt to split the network.
1623         if (!inputs.HaveInputs(tx))
1624             return state.Invalid(error("CheckInputs(): %s inputs unavailable", tx.GetHash().ToString()));
1625
1626         // are the JoinSplit's requirements met?
1627         if (!inputs.HaveJoinSplitRequirements(tx))
1628             return state.Invalid(error("CheckInputs(): %s JoinSplit requirements not met", tx.GetHash().ToString()));
1629
1630         CAmount nValueIn = 0;
1631         CAmount nFees = 0;
1632         for (unsigned int i = 0; i < tx.vin.size(); i++)
1633         {
1634             const COutPoint &prevout = tx.vin[i].prevout;
1635             const CCoins *coins = inputs.AccessCoins(prevout.hash);
1636             assert(coins);
1637
1638             if (coins->IsCoinBase()) {
1639                 // Ensure that coinbases are matured
1640                 if (nSpendHeight - coins->nHeight < COINBASE_MATURITY) {
1641                     return state.Invalid(
1642                         error("CheckInputs(): tried to spend coinbase at depth %d", nSpendHeight - coins->nHeight),
1643                         REJECT_INVALID, "bad-txns-premature-spend-of-coinbase");
1644                 }
1645
1646                 // Ensure that coinbases cannot be spent to transparent outputs
1647                 // Disabled on regtest
1648                 if (fCoinbaseEnforcedProtectionEnabled &&
1649                     consensusParams.fCoinbaseMustBeProtected &&
1650                     !tx.vout.empty()) {
1651                     return state.Invalid(
1652                         error("CheckInputs(): tried to spend coinbase with transparent outputs"),
1653                         REJECT_INVALID, "bad-txns-coinbase-spend-has-transparent-outputs");
1654                 }
1655             }
1656
1657             // Check for negative or overflow input values
1658             nValueIn += coins->vout[prevout.n].nValue;
1659             if (!MoneyRange(coins->vout[prevout.n].nValue) || !MoneyRange(nValueIn))
1660                 return state.DoS(100, error("CheckInputs(): txin values out of range"),
1661                                  REJECT_INVALID, "bad-txns-inputvalues-outofrange");
1662
1663         }
1664
1665         nValueIn += tx.GetJoinSplitValueIn();
1666         if (!MoneyRange(nValueIn))
1667             return state.DoS(100, error("CheckInputs(): vpub_old values out of range"),
1668                              REJECT_INVALID, "bad-txns-inputvalues-outofrange");
1669
1670         if (nValueIn < tx.GetValueOut())
1671             return state.DoS(100, error("CheckInputs(): %s value in (%s) < value out (%s)",
1672                                         tx.GetHash().ToString(), FormatMoney(nValueIn), FormatMoney(tx.GetValueOut())),
1673                              REJECT_INVALID, "bad-txns-in-belowout");
1674
1675         // Tally transaction fees
1676         CAmount nTxFee = nValueIn - tx.GetValueOut();
1677         if (nTxFee < 0)
1678             return state.DoS(100, error("CheckInputs(): %s nTxFee < 0", tx.GetHash().ToString()),
1679                              REJECT_INVALID, "bad-txns-fee-negative");
1680         nFees += nTxFee;
1681         if (!MoneyRange(nFees))
1682             return state.DoS(100, error("CheckInputs(): nFees out of range"),
1683                              REJECT_INVALID, "bad-txns-fee-outofrange");
1684     return true;
1685 }
1686 }// namespace Consensus
1687
1688 bool ContextualCheckInputs(const CTransaction& tx, CValidationState &state, const CCoinsViewCache &inputs, bool fScriptChecks, unsigned int flags, bool cacheStore, const Consensus::Params& consensusParams, std::vector<CScriptCheck> *pvChecks)
1689 {
1690     if (!Consensus::CheckTxInputs(tx, state, inputs, GetSpendHeight(inputs), consensusParams))
1691         return false;
1692
1693     if (!tx.IsCoinBase())
1694     {
1695         if (pvChecks)
1696             pvChecks->reserve(tx.vin.size());
1697
1698         // The first loop above does all the inexpensive checks.
1699         // Only if ALL inputs pass do we perform expensive ECDSA signature checks.
1700         // Helps prevent CPU exhaustion attacks.
1701
1702         // Skip ECDSA signature verification when connecting blocks
1703         // before the last block chain checkpoint. This is safe because block merkle hashes are
1704         // still computed and checked, and any change will be caught at the next checkpoint.
1705         if (fScriptChecks) {
1706             for (unsigned int i = 0; i < tx.vin.size(); i++) {
1707                 const COutPoint &prevout = tx.vin[i].prevout;
1708                 const CCoins* coins = inputs.AccessCoins(prevout.hash);
1709                 assert(coins);
1710
1711                 // Verify signature
1712                 CScriptCheck check(*coins, tx, i, flags, cacheStore);
1713                 if (pvChecks) {
1714                     pvChecks->push_back(CScriptCheck());
1715                     check.swap(pvChecks->back());
1716                 } else if (!check()) {
1717                     if (flags & STANDARD_NOT_MANDATORY_VERIFY_FLAGS) {
1718                         // Check whether the failure was caused by a
1719                         // non-mandatory script verification check, such as
1720                         // non-standard DER encodings or non-null dummy
1721                         // arguments; if so, don't trigger DoS protection to
1722                         // avoid splitting the network between upgraded and
1723                         // non-upgraded nodes.
1724                         CScriptCheck check(*coins, tx, i,
1725                                 flags & ~STANDARD_NOT_MANDATORY_VERIFY_FLAGS, cacheStore);
1726                         if (check())
1727                             return state.Invalid(false, REJECT_NONSTANDARD, strprintf("non-mandatory-script-verify-flag (%s)", ScriptErrorString(check.GetScriptError())));
1728                     }
1729                     // Failures of other flags indicate a transaction that is
1730                     // invalid in new blocks, e.g. a invalid P2SH. We DoS ban
1731                     // such nodes as they are not following the protocol. That
1732                     // said during an upgrade careful thought should be taken
1733                     // as to the correct behavior - we may want to continue
1734                     // peering with non-upgraded nodes even after a soft-fork
1735                     // super-majority vote has passed.
1736                     return state.DoS(100,false, REJECT_INVALID, strprintf("mandatory-script-verify-flag-failed (%s)", ScriptErrorString(check.GetScriptError())));
1737                 }
1738             }
1739         }
1740     }
1741
1742     return true;
1743 }
1744
1745 namespace {
1746
1747 bool UndoWriteToDisk(const CBlockUndo& blockundo, CDiskBlockPos& pos, const uint256& hashBlock, const CMessageHeader::MessageStartChars& messageStart)
1748 {
1749     // Open history file to append
1750     CAutoFile fileout(OpenUndoFile(pos), SER_DISK, CLIENT_VERSION);
1751     if (fileout.IsNull())
1752         return error("%s: OpenUndoFile failed", __func__);
1753
1754     // Write index header
1755     unsigned int nSize = fileout.GetSerializeSize(blockundo);
1756     fileout << FLATDATA(messageStart) << nSize;
1757
1758     // Write undo data
1759     long fileOutPos = ftell(fileout.Get());
1760     if (fileOutPos < 0)
1761         return error("%s: ftell failed", __func__);
1762     pos.nPos = (unsigned int)fileOutPos;
1763     fileout << blockundo;
1764
1765     // calculate & write checksum
1766     CHashWriter hasher(SER_GETHASH, PROTOCOL_VERSION);
1767     hasher << hashBlock;
1768     hasher << blockundo;
1769     fileout << hasher.GetHash();
1770
1771     return true;
1772 }
1773
1774 bool UndoReadFromDisk(CBlockUndo& blockundo, const CDiskBlockPos& pos, const uint256& hashBlock)
1775 {
1776     // Open history file to read
1777     CAutoFile filein(OpenUndoFile(pos, true), SER_DISK, CLIENT_VERSION);
1778     if (filein.IsNull())
1779         return error("%s: OpenBlockFile failed", __func__);
1780
1781     // Read block
1782     uint256 hashChecksum;
1783     try {
1784         filein >> blockundo;
1785         filein >> hashChecksum;
1786     }
1787     catch (const std::exception& e) {
1788         return error("%s: Deserialize or I/O error - %s", __func__, e.what());
1789     }
1790
1791     // Verify checksum
1792     CHashWriter hasher(SER_GETHASH, PROTOCOL_VERSION);
1793     hasher << hashBlock;
1794     hasher << blockundo;
1795     if (hashChecksum != hasher.GetHash())
1796         return error("%s: Checksum mismatch", __func__);
1797
1798     return true;
1799 }
1800
1801 /** Abort with a message */
1802 bool AbortNode(const std::string& strMessage, const std::string& userMessage="")
1803 {
1804     strMiscWarning = strMessage;
1805     LogPrintf("*** %s\n", strMessage);
1806     uiInterface.ThreadSafeMessageBox(
1807         userMessage.empty() ? _("Error: A fatal internal error occurred, see debug.log for details") : userMessage,
1808         "", CClientUIInterface::MSG_ERROR);
1809     StartShutdown();
1810     return false;
1811 }
1812
1813 bool AbortNode(CValidationState& state, const std::string& strMessage, const std::string& userMessage="")
1814 {
1815     AbortNode(strMessage, userMessage);
1816     return state.Error(strMessage);
1817 }
1818
1819 } // anon namespace
1820
1821 /**
1822  * Apply the undo operation of a CTxInUndo to the given chain state.
1823  * @param undo The undo object.
1824  * @param view The coins view to which to apply the changes.
1825  * @param out The out point that corresponds to the tx input.
1826  * @return True on success.
1827  */
1828 static bool ApplyTxInUndo(const CTxInUndo& undo, CCoinsViewCache& view, const COutPoint& out)
1829 {
1830     bool fClean = true;
1831
1832     CCoinsModifier coins = view.ModifyCoins(out.hash);
1833     if (undo.nHeight != 0) {
1834         // undo data contains height: this is the last output of the prevout tx being spent
1835         if (!coins->IsPruned())
1836             fClean = fClean && error("%s: undo data overwriting existing transaction", __func__);
1837         coins->Clear();
1838         coins->fCoinBase = undo.fCoinBase;
1839         coins->nHeight = undo.nHeight;
1840         coins->nVersion = undo.nVersion;
1841     } else {
1842         if (coins->IsPruned())
1843             fClean = fClean && error("%s: undo data adding output to missing transaction", __func__);
1844     }
1845     if (coins->IsAvailable(out.n))
1846         fClean = fClean && error("%s: undo data overwriting existing output", __func__);
1847     if (coins->vout.size() < out.n+1)
1848         coins->vout.resize(out.n+1);
1849     coins->vout[out.n] = undo.txout;
1850
1851     return fClean;
1852 }
1853
1854 bool DisconnectBlock(CBlock& block, CValidationState& state, CBlockIndex* pindex, CCoinsViewCache& view, bool* pfClean)
1855 {
1856     assert(pindex->GetBlockHash() == view.GetBestBlock());
1857
1858     if (pfClean)
1859         *pfClean = false;
1860
1861     bool fClean = true;
1862
1863     CBlockUndo blockUndo;
1864     CDiskBlockPos pos = pindex->GetUndoPos();
1865     if (pos.IsNull())
1866         return error("DisconnectBlock(): no undo data available");
1867     if (!UndoReadFromDisk(blockUndo, pos, pindex->pprev->GetBlockHash()))
1868         return error("DisconnectBlock(): failure reading undo data");
1869
1870     if (blockUndo.vtxundo.size() + 1 != block.vtx.size())
1871         return error("DisconnectBlock(): block and undo data inconsistent");
1872
1873     // undo transactions in reverse order
1874     for (int i = block.vtx.size() - 1; i >= 0; i--) {
1875         const CTransaction &tx = block.vtx[i];
1876         uint256 hash = tx.GetHash();
1877
1878         // Check that all outputs are available and match the outputs in the block itself
1879         // exactly.
1880         {
1881         CCoinsModifier outs = view.ModifyCoins(hash);
1882         outs->ClearUnspendable();
1883
1884         CCoins outsBlock(tx, pindex->nHeight);
1885         // The CCoins serialization does not serialize negative numbers.
1886         // No network rules currently depend on the version here, so an inconsistency is harmless
1887         // but it must be corrected before txout nversion ever influences a network rule.
1888         if (outsBlock.nVersion < 0)
1889             outs->nVersion = outsBlock.nVersion;
1890         if (*outs != outsBlock)
1891             fClean = fClean && error("DisconnectBlock(): added transaction mismatch? database corrupted");
1892
1893         // remove outputs
1894         outs->Clear();
1895         }
1896
1897         // unspend nullifiers
1898         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
1899             BOOST_FOREACH(const uint256 &nf, joinsplit.nullifiers) {
1900                 view.SetNullifier(nf, false);
1901             }
1902         }
1903
1904         // restore inputs
1905         if (i > 0) { // not coinbases
1906             const CTxUndo &txundo = blockUndo.vtxundo[i-1];
1907             if (txundo.vprevout.size() != tx.vin.size())
1908                 return error("DisconnectBlock(): transaction and undo data inconsistent");
1909             for (unsigned int j = tx.vin.size(); j-- > 0;) {
1910                 const COutPoint &out = tx.vin[j].prevout;
1911                 const CTxInUndo &undo = txundo.vprevout[j];
1912                 if (!ApplyTxInUndo(undo, view, out))
1913                     fClean = false;
1914             }
1915         }
1916     }
1917
1918     // set the old best anchor back
1919     view.PopAnchor(blockUndo.old_tree_root);
1920
1921     // move best block pointer to prevout block
1922     view.SetBestBlock(pindex->pprev->GetBlockHash());
1923
1924     if (pfClean) {
1925         *pfClean = fClean;
1926         return true;
1927     }
1928
1929     return fClean;
1930 }
1931
1932 void static FlushBlockFile(bool fFinalize = false)
1933 {
1934     LOCK(cs_LastBlockFile);
1935
1936     CDiskBlockPos posOld(nLastBlockFile, 0);
1937
1938     FILE *fileOld = OpenBlockFile(posOld);
1939     if (fileOld) {
1940         if (fFinalize)
1941             TruncateFile(fileOld, vinfoBlockFile[nLastBlockFile].nSize);
1942         FileCommit(fileOld);
1943         fclose(fileOld);
1944     }
1945
1946     fileOld = OpenUndoFile(posOld);
1947     if (fileOld) {
1948         if (fFinalize)
1949             TruncateFile(fileOld, vinfoBlockFile[nLastBlockFile].nUndoSize);
1950         FileCommit(fileOld);
1951         fclose(fileOld);
1952     }
1953 }
1954
1955 bool FindUndoPos(CValidationState &state, int nFile, CDiskBlockPos &pos, unsigned int nAddSize);
1956
1957 static CCheckQueue<CScriptCheck> scriptcheckqueue(128);
1958
1959 void ThreadScriptCheck() {
1960     RenameThread("zcash-scriptch");
1961     scriptcheckqueue.Thread();
1962 }
1963
1964 //
1965 // Called periodically asynchronously; alerts if it smells like
1966 // we're being fed a bad chain (blocks being generated much
1967 // too slowly or too quickly).
1968 //
1969 void PartitionCheck(bool (*initialDownloadCheck)(), CCriticalSection& cs, const CBlockIndex *const &bestHeader,
1970                     int64_t nPowTargetSpacing)
1971 {
1972     if (bestHeader == NULL || initialDownloadCheck()) return;
1973
1974     static int64_t lastAlertTime = 0;
1975     int64_t now = GetAdjustedTime();
1976     if (lastAlertTime > now-60*60*24) return; // Alert at most once per day
1977
1978     const int SPAN_HOURS=4;
1979     const int SPAN_SECONDS=SPAN_HOURS*60*60;
1980     int BLOCKS_EXPECTED = SPAN_SECONDS / nPowTargetSpacing;
1981
1982     boost::math::poisson_distribution<double> poisson(BLOCKS_EXPECTED);
1983
1984     std::string strWarning;
1985     int64_t startTime = GetAdjustedTime()-SPAN_SECONDS;
1986
1987     LOCK(cs);
1988     const CBlockIndex* i = bestHeader;
1989     int nBlocks = 0;
1990     while (i->GetBlockTime() >= startTime) {
1991         ++nBlocks;
1992         i = i->pprev;
1993         if (i == NULL) return; // Ran out of chain, we must not be fully sync'ed
1994     }
1995
1996     // How likely is it to find that many by chance?
1997     double p = boost::math::pdf(poisson, nBlocks);
1998
1999     LogPrint("partitioncheck", "%s : Found %d blocks in the last %d hours\n", __func__, nBlocks, SPAN_HOURS);
2000     LogPrint("partitioncheck", "%s : likelihood: %g\n", __func__, p);
2001
2002     // Aim for one false-positive about every fifty years of normal running:
2003     const int FIFTY_YEARS = 50*365*24*60*60;
2004     double alertThreshold = 1.0 / (FIFTY_YEARS / SPAN_SECONDS);
2005
2006     if (p <= alertThreshold && nBlocks < BLOCKS_EXPECTED)
2007     {
2008         // Many fewer blocks than expected: alert!
2009         strWarning = strprintf(_("WARNING: check your network connection, %d blocks received in the last %d hours (%d expected)"),
2010                                nBlocks, SPAN_HOURS, BLOCKS_EXPECTED);
2011     }
2012     else if (p <= alertThreshold && nBlocks > BLOCKS_EXPECTED)
2013     {
2014         // Many more blocks than expected: alert!
2015         strWarning = strprintf(_("WARNING: abnormally high number of blocks generated, %d blocks received in the last %d hours (%d expected)"),
2016                                nBlocks, SPAN_HOURS, BLOCKS_EXPECTED);
2017     }
2018     if (!strWarning.empty())
2019     {
2020         strMiscWarning = strWarning;
2021         CAlert::Notify(strWarning, true);
2022         lastAlertTime = now;
2023     }
2024 }
2025
2026 static int64_t nTimeVerify = 0;
2027 static int64_t nTimeConnect = 0;
2028 static int64_t nTimeIndex = 0;
2029 static int64_t nTimeCallbacks = 0;
2030 static int64_t nTimeTotal = 0;
2031
2032 bool ConnectBlock(const CBlock& block, CValidationState& state, CBlockIndex* pindex, CCoinsViewCache& view, bool fJustCheck)
2033 {
2034     const CChainParams& chainparams = Params();
2035     AssertLockHeld(cs_main);
2036
2037     bool fExpensiveChecks = true;
2038     if (fCheckpointsEnabled) {
2039         CBlockIndex *pindexLastCheckpoint = Checkpoints::GetLastCheckpoint(chainparams.Checkpoints());
2040         if (pindexLastCheckpoint && pindexLastCheckpoint->GetAncestor(pindex->nHeight) == pindex) {
2041             // This block is an ancestor of a checkpoint: disable script checks
2042             fExpensiveChecks = false;
2043         }
2044     }
2045
2046     auto verifier = libzcash::ProofVerifier::Strict();
2047     auto disabledVerifier = libzcash::ProofVerifier::Disabled();
2048
2049     // Check it again to verify JoinSplit proofs, and in case a previous version let a bad block in
2050     if (!CheckBlock(block, state, fExpensiveChecks ? verifier : disabledVerifier, !fJustCheck, !fJustCheck))
2051         return false;
2052
2053     // verify that the view's current state corresponds to the previous block
2054     uint256 hashPrevBlock = pindex->pprev == NULL ? uint256() : pindex->pprev->GetBlockHash();
2055     assert(hashPrevBlock == view.GetBestBlock());
2056
2057     // Special case for the genesis block, skipping connection of its transactions
2058     // (its coinbase is unspendable)
2059     if (block.GetHash() == chainparams.GetConsensus().hashGenesisBlock) {
2060         if (!fJustCheck) {
2061             view.SetBestBlock(pindex->GetBlockHash());
2062             // Before the genesis block, there was an empty tree
2063             ZCIncrementalMerkleTree tree;
2064             pindex->hashAnchor = tree.root();
2065             // The genesis block contained no JoinSplits
2066             pindex->hashAnchorEnd = pindex->hashAnchor;
2067         }
2068         return true;
2069     }
2070
2071     // Do not allow blocks that contain transactions which 'overwrite' older transactions,
2072     // unless those are already completely spent.
2073     BOOST_FOREACH(const CTransaction& tx, block.vtx) {
2074         const CCoins* coins = view.AccessCoins(tx.GetHash());
2075         if (coins && !coins->IsPruned())
2076             return state.DoS(100, error("ConnectBlock(): tried to overwrite transaction"),
2077                              REJECT_INVALID, "bad-txns-BIP30");
2078     }
2079
2080     unsigned int flags = SCRIPT_VERIFY_P2SH;
2081
2082     // Start enforcing the DERSIG (BIP66) rules, for block.nVersion=3 blocks,
2083     // when 75% of the network has upgraded:
2084     if (block.nVersion >= 3) {
2085         flags |= SCRIPT_VERIFY_DERSIG;
2086     }
2087
2088     // Start enforcing CHECKLOCKTIMEVERIFY, (BIP65) for block.nVersion=4
2089     // blocks, when 75% of the network has upgraded:
2090     if (block.nVersion >= 4) {
2091         flags |= SCRIPT_VERIFY_CHECKLOCKTIMEVERIFY;
2092     }
2093
2094     CBlockUndo blockundo;
2095
2096     CCheckQueueControl<CScriptCheck> control(fExpensiveChecks && nScriptCheckThreads ? &scriptcheckqueue : NULL);
2097
2098     int64_t nTimeStart = GetTimeMicros();
2099     CAmount nFees = 0;
2100     int nInputs = 0;
2101     unsigned int nSigOps = 0;
2102     CDiskTxPos pos(pindex->GetBlockPos(), GetSizeOfCompactSize(block.vtx.size()));
2103     std::vector<std::pair<uint256, CDiskTxPos> > vPos;
2104     vPos.reserve(block.vtx.size());
2105     blockundo.vtxundo.reserve(block.vtx.size() - 1);
2106
2107     // Construct the incremental merkle tree at the current
2108     // block position,
2109     auto old_tree_root = view.GetBestAnchor();
2110     // saving the top anchor in the block index as we go.
2111     if (!fJustCheck) {
2112         pindex->hashAnchor = old_tree_root;
2113     }
2114     ZCIncrementalMerkleTree tree;
2115     // This should never fail: we should always be able to get the root
2116     // that is on the tip of our chain
2117     assert(view.GetAnchorAt(old_tree_root, tree));
2118
2119     {
2120         // Consistency check: the root of the tree we're given should
2121         // match what we asked for.
2122         assert(tree.root() == old_tree_root);
2123     }
2124
2125     for (unsigned int i = 0; i < block.vtx.size(); i++)
2126     {
2127         const CTransaction &tx = block.vtx[i];
2128
2129         nInputs += tx.vin.size();
2130         nSigOps += GetLegacySigOpCount(tx);
2131         if (nSigOps > MAX_BLOCK_SIGOPS)
2132             return state.DoS(100, error("ConnectBlock(): too many sigops"),
2133                              REJECT_INVALID, "bad-blk-sigops");
2134
2135         if (!tx.IsCoinBase())
2136         {
2137             if (!view.HaveInputs(tx))
2138                 return state.DoS(100, error("ConnectBlock(): inputs missing/spent"),
2139                                  REJECT_INVALID, "bad-txns-inputs-missingorspent");
2140
2141             // are the JoinSplit's requirements met?
2142             if (!view.HaveJoinSplitRequirements(tx))
2143                 return state.DoS(100, error("ConnectBlock(): JoinSplit requirements not met"),
2144                                  REJECT_INVALID, "bad-txns-joinsplit-requirements-not-met");
2145
2146             // Add in sigops done by pay-to-script-hash inputs;
2147             // this is to prevent a "rogue miner" from creating
2148             // an incredibly-expensive-to-validate block.
2149             nSigOps += GetP2SHSigOpCount(tx, view);
2150             if (nSigOps > MAX_BLOCK_SIGOPS)
2151                 return state.DoS(100, error("ConnectBlock(): too many sigops"),
2152                                  REJECT_INVALID, "bad-blk-sigops");
2153
2154             nFees += view.GetValueIn(tx)-tx.GetValueOut();
2155
2156             std::vector<CScriptCheck> vChecks;
2157             if (!ContextualCheckInputs(tx, state, view, fExpensiveChecks, flags, false, chainparams.GetConsensus(), nScriptCheckThreads ? &vChecks : NULL))
2158                 return false;
2159             control.Add(vChecks);
2160         }
2161
2162         CTxUndo undoDummy;
2163         if (i > 0) {
2164             blockundo.vtxundo.push_back(CTxUndo());
2165         }
2166         UpdateCoins(tx, state, view, i == 0 ? undoDummy : blockundo.vtxundo.back(), pindex->nHeight);
2167
2168         BOOST_FOREACH(const JSDescription &joinsplit, tx.vjoinsplit) {
2169             BOOST_FOREACH(const uint256 &note_commitment, joinsplit.commitments) {
2170                 // Insert the note commitments into our temporary tree.
2171
2172                 tree.append(note_commitment);
2173             }
2174         }
2175
2176         vPos.push_back(std::make_pair(tx.GetHash(), pos));
2177         pos.nTxOffset += ::GetSerializeSize(tx, SER_DISK, CLIENT_VERSION);
2178     }
2179
2180     view.PushAnchor(tree);
2181     if (!fJustCheck) {
2182         pindex->hashAnchorEnd = tree.root();
2183     }
2184     blockundo.old_tree_root = old_tree_root;
2185
2186     int64_t nTime1 = GetTimeMicros(); nTimeConnect += nTime1 - nTimeStart;
2187     LogPrint("bench", "      - Connect %u transactions: %.2fms (%.3fms/tx, %.3fms/txin) [%.2fs]\n", (unsigned)block.vtx.size(), 0.001 * (nTime1 - nTimeStart), 0.001 * (nTime1 - nTimeStart) / block.vtx.size(), nInputs <= 1 ? 0 : 0.001 * (nTime1 - nTimeStart) / (nInputs-1), nTimeConnect * 0.000001);
2188
2189     CAmount blockReward = nFees + GetBlockSubsidy(pindex->nHeight, chainparams.GetConsensus());
2190     if (block.vtx[0].GetValueOut() > blockReward)
2191         return state.DoS(100,
2192                          error("ConnectBlock(): coinbase pays too much (actual=%d vs limit=%d)",
2193                                block.vtx[0].GetValueOut(), blockReward),
2194                                REJECT_INVALID, "bad-cb-amount");
2195
2196     if (!control.Wait())
2197         return state.DoS(100, false);
2198     int64_t nTime2 = GetTimeMicros(); nTimeVerify += nTime2 - nTimeStart;
2199     LogPrint("bench", "    - Verify %u txins: %.2fms (%.3fms/txin) [%.2fs]\n", nInputs - 1, 0.001 * (nTime2 - nTimeStart), nInputs <= 1 ? 0 : 0.001 * (nTime2 - nTimeStart) / (nInputs-1), nTimeVerify * 0.000001);
2200
2201     if (fJustCheck)
2202         return true;
2203
2204     // Write undo information to disk
2205     if (pindex->GetUndoPos().IsNull() || !pindex->IsValid(BLOCK_VALID_SCRIPTS))
2206     {
2207         if (pindex->GetUndoPos().IsNull()) {
2208             CDiskBlockPos pos;
2209             if (!FindUndoPos(state, pindex->nFile, pos, ::GetSerializeSize(blockundo, SER_DISK, CLIENT_VERSION) + 40))
2210                 return error("ConnectBlock(): FindUndoPos failed");
2211             if (!UndoWriteToDisk(blockundo, pos, pindex->pprev->GetBlockHash(), chainparams.MessageStart()))
2212                 return AbortNode(state, "Failed to write undo data");
2213
2214             // update nUndoPos in block index
2215             pindex->nUndoPos = pos.nPos;
2216             pindex->nStatus |= BLOCK_HAVE_UNDO;
2217         }
2218
2219         pindex->RaiseValidity(BLOCK_VALID_SCRIPTS);
2220         setDirtyBlockIndex.insert(pindex);
2221     }
2222
2223     if (fTxIndex)
2224         if (!pblocktree->WriteTxIndex(vPos))
2225             return AbortNode(state, "Failed to write transaction index");
2226
2227     // add this block to the view's block chain
2228     view.SetBestBlock(pindex->GetBlockHash());
2229
2230     int64_t nTime3 = GetTimeMicros(); nTimeIndex += nTime3 - nTime2;
2231     LogPrint("bench", "    - Index writing: %.2fms [%.2fs]\n", 0.001 * (nTime3 - nTime2), nTimeIndex * 0.000001);
2232
2233     // Watch for changes to the previous coinbase transaction.
2234     static uint256 hashPrevBestCoinBase;
2235     GetMainSignals().UpdatedTransaction(hashPrevBestCoinBase);
2236     hashPrevBestCoinBase = block.vtx[0].GetHash();
2237
2238     int64_t nTime4 = GetTimeMicros(); nTimeCallbacks += nTime4 - nTime3;
2239     LogPrint("bench", "    - Callbacks: %.2fms [%.2fs]\n", 0.001 * (nTime4 - nTime3), nTimeCallbacks * 0.000001);
2240
2241     return true;
2242 }
2243
2244 enum FlushStateMode {
2245     FLUSH_STATE_NONE,
2246     FLUSH_STATE_IF_NEEDED,
2247     FLUSH_STATE_PERIODIC,
2248     FLUSH_STATE_ALWAYS
2249 };
2250
2251 /**
2252  * Update the on-disk chain state.
2253  * The caches and indexes are flushed depending on the mode we're called with
2254  * if they're too large, if it's been a while since the last write,
2255  * or always and in all cases if we're in prune mode and are deleting files.
2256  */
2257 bool static FlushStateToDisk(CValidationState &state, FlushStateMode mode) {
2258     LOCK2(cs_main, cs_LastBlockFile);
2259     static int64_t nLastWrite = 0;
2260     static int64_t nLastFlush = 0;
2261     static int64_t nLastSetChain = 0;
2262     std::set<int> setFilesToPrune;
2263     bool fFlushForPrune = false;
2264     try {
2265     if (fPruneMode && fCheckForPruning && !fReindex) {
2266         FindFilesToPrune(setFilesToPrune);
2267         fCheckForPruning = false;
2268         if (!setFilesToPrune.empty()) {
2269             fFlushForPrune = true;
2270             if (!fHavePruned) {
2271                 pblocktree->WriteFlag("prunedblockfiles", true);
2272                 fHavePruned = true;
2273             }
2274         }
2275     }
2276     int64_t nNow = GetTimeMicros();
2277     // Avoid writing/flushing immediately after startup.
2278     if (nLastWrite == 0) {
2279         nLastWrite = nNow;
2280     }
2281     if (nLastFlush == 0) {
2282         nLastFlush = nNow;
2283     }
2284     if (nLastSetChain == 0) {
2285         nLastSetChain = nNow;
2286     }
2287     size_t cacheSize = pcoinsTip->DynamicMemoryUsage();
2288     // The cache is large and close to the limit, but we have time now (not in the middle of a block processing).
2289     bool fCacheLarge = mode == FLUSH_STATE_PERIODIC && cacheSize * (10.0/9) > nCoinCacheUsage;
2290     // The cache is over the limit, we have to write now.
2291     bool fCacheCritical = mode == FLUSH_STATE_IF_NEEDED && cacheSize > nCoinCacheUsage;
2292     // It's been a while since we wrote the block index to disk. Do this frequently, so we don't need to redownload after a crash.
2293     bool fPeriodicWrite = mode == FLUSH_STATE_PERIODIC && nNow > nLastWrite + (int64_t)DATABASE_WRITE_INTERVAL * 1000000;
2294     // It's been very long since we flushed the cache. Do this infrequently, to optimize cache usage.
2295     bool fPeriodicFlush = mode == FLUSH_STATE_PERIODIC && nNow > nLastFlush + (int64_t)DATABASE_FLUSH_INTERVAL * 1000000;
2296     // Combine all conditions that result in a full cache flush.
2297     bool fDoFullFlush = (mode == FLUSH_STATE_ALWAYS) || fCacheLarge || fCacheCritical || fPeriodicFlush || fFlushForPrune;
2298     // Write blocks and block index to disk.
2299     if (fDoFullFlush || fPeriodicWrite) {
2300         // Depend on nMinDiskSpace to ensure we can write block index
2301         if (!CheckDiskSpace(0))
2302             return state.Error("out of disk space");
2303         // First make sure all block and undo data is flushed to disk.
2304         FlushBlockFile();
2305         // Then update all block file information (which may refer to block and undo files).
2306         {
2307             std::vector<std::pair<int, const CBlockFileInfo*> > vFiles;
2308             vFiles.reserve(setDirtyFileInfo.size());
2309             for (set<int>::iterator it = setDirtyFileInfo.begin(); it != setDirtyFileInfo.end(); ) {
2310                 vFiles.push_back(make_pair(*it, &vinfoBlockFile[*it]));
2311                 setDirtyFileInfo.erase(it++);
2312             }
2313             std::vector<const CBlockIndex*> vBlocks;
2314             vBlocks.reserve(setDirtyBlockIndex.size());
2315             for (set<CBlockIndex*>::iterator it = setDirtyBlockIndex.begin(); it != setDirtyBlockIndex.end(); ) {
2316                 vBlocks.push_back(*it);
2317                 setDirtyBlockIndex.erase(it++);
2318             }
2319             if (!pblocktree->WriteBatchSync(vFiles, nLastBlockFile, vBlocks)) {
2320                 return AbortNode(state, "Files to write to block index database");
2321             }
2322         }
2323         // Finally remove any pruned files
2324         if (fFlushForPrune)
2325             UnlinkPrunedFiles(setFilesToPrune);
2326         nLastWrite = nNow;
2327     }
2328     // Flush best chain related state. This can only be done if the blocks / block index write was also done.
2329     if (fDoFullFlush) {
2330         // Typical CCoins structures on disk are around 128 bytes in size.
2331         // Pushing a new one to the database can cause it to be written
2332         // twice (once in the log, and once in the tables). This is already
2333         // an overestimation, as most will delete an existing entry or
2334         // overwrite one. Still, use a conservative safety factor of 2.
2335         if (!CheckDiskSpace(128 * 2 * 2 * pcoinsTip->GetCacheSize()))
2336             return state.Error("out of disk space");
2337         // Flush the chainstate (which may refer to block index entries).
2338         if (!pcoinsTip->Flush())
2339             return AbortNode(state, "Failed to write to coin database");
2340         nLastFlush = nNow;
2341     }
2342     if ((mode == FLUSH_STATE_ALWAYS || mode == FLUSH_STATE_PERIODIC) && nNow > nLastSetChain + (int64_t)DATABASE_WRITE_INTERVAL * 1000000) {
2343         // Update best block in wallet (so we can detect restored wallets).
2344         GetMainSignals().SetBestChain(chainActive.GetLocator());
2345         nLastSetChain = nNow;
2346     }
2347     } catch (const std::runtime_error& e) {
2348         return AbortNode(state, std::string("System error while flushing: ") + e.what());
2349     }
2350     return true;
2351 }
2352
2353 void FlushStateToDisk() {
2354     CValidationState state;
2355     FlushStateToDisk(state, FLUSH_STATE_ALWAYS);
2356 }
2357
2358 void PruneAndFlush() {
2359     CValidationState state;
2360     fCheckForPruning = true;
2361     FlushStateToDisk(state, FLUSH_STATE_NONE);
2362 }
2363
2364 /** Update chainActive and related internal data structures. */
2365 void static UpdateTip(CBlockIndex *pindexNew) {
2366     const CChainParams& chainParams = Params();
2367     chainActive.SetTip(pindexNew);
2368
2369     // New best block
2370     nTimeBestReceived = GetTime();
2371     mempool.AddTransactionsUpdated(1);
2372
2373     LogPrintf("%s: new best=%s  height=%d  log2_work=%.8g  tx=%lu  date=%s progress=%f  cache=%.1fMiB(%utx)\n", __func__,
2374       chainActive.Tip()->GetBlockHash().ToString(), chainActive.Height(), log(chainActive.Tip()->nChainWork.getdouble())/log(2.0), (unsigned long)chainActive.Tip()->nChainTx,
2375       DateTimeStrFormat("%Y-%m-%d %H:%M:%S", chainActive.Tip()->GetBlockTime()),
2376       Checkpoints::GuessVerificationProgress(chainParams.Checkpoints(), chainActive.Tip()), pcoinsTip->DynamicMemoryUsage() * (1.0 / (1<<20)), pcoinsTip->GetCacheSize());
2377
2378     cvBlockChange.notify_all();
2379
2380     // Check the version of the last 100 blocks to see if we need to upgrade:
2381     static bool fWarned = false;
2382     if (!IsInitialBlockDownload() && !fWarned)
2383     {
2384         int nUpgraded = 0;
2385         const CBlockIndex* pindex = chainActive.Tip();
2386         for (int i = 0; i < 100 && pindex != NULL; i++)
2387         {
2388             if (pindex->nVersion > CBlock::CURRENT_VERSION)
2389                 ++nUpgraded;
2390             pindex = pindex->pprev;
2391         }
2392         if (nUpgraded > 0)
2393             LogPrintf("%s: %d of last 100 blocks above version %d\n", __func__, nUpgraded, (int)CBlock::CURRENT_VERSION);
2394         if (nUpgraded > 100/2)
2395         {
2396             // strMiscWarning is read by GetWarnings(), called by the JSON-RPC code to warn the user:
2397             strMiscWarning = _("Warning: This version is obsolete; upgrade required!");
2398             CAlert::Notify(strMiscWarning, true);
2399             fWarned = true;
2400         }
2401     }
2402 }
2403
2404 /** Disconnect chainActive's tip. */
2405 bool static DisconnectTip(CValidationState &state) {
2406     CBlockIndex *pindexDelete = chainActive.Tip();
2407     assert(pindexDelete);
2408     mempool.check(pcoinsTip);
2409     // Read block from disk.
2410     CBlock block;
2411     if (!ReadBlockFromDisk(block, pindexDelete))
2412         return AbortNode(state, "Failed to read block");
2413     // Apply the block atomically to the chain state.
2414     uint256 anchorBeforeDisconnect = pcoinsTip->GetBestAnchor();
2415     int64_t nStart = GetTimeMicros();
2416     {
2417         CCoinsViewCache view(pcoinsTip);
2418         if (!DisconnectBlock(block, state, pindexDelete, view))
2419             return error("DisconnectTip(): DisconnectBlock %s failed", pindexDelete->GetBlockHash().ToString());
2420         assert(view.Flush());
2421     }
2422     LogPrint("bench", "- Disconnect block: %.2fms\n", (GetTimeMicros() - nStart) * 0.001);
2423     uint256 anchorAfterDisconnect = pcoinsTip->GetBestAnchor();
2424     // Write the chain state to disk, if necessary.
2425     if (!FlushStateToDisk(state, FLUSH_STATE_IF_NEEDED))
2426         return false;
2427     // Resurrect mempool transactions from the disconnected block.
2428     BOOST_FOREACH(const CTransaction &tx, block.vtx) {
2429         // ignore validation errors in resurrected transactions
2430         list<CTransaction> removed;
2431         CValidationState stateDummy;
2432         if (tx.IsCoinBase() || !AcceptToMemoryPool(mempool, stateDummy, tx, false, NULL))
2433             mempool.remove(tx, removed, true);
2434     }
2435     if (anchorBeforeDisconnect != anchorAfterDisconnect) {
2436         // The anchor may not change between block disconnects,
2437         // in which case we don't want to evict from the mempool yet!
2438         mempool.removeWithAnchor(anchorBeforeDisconnect);
2439     }
2440     mempool.removeCoinbaseSpends(pcoinsTip, pindexDelete->nHeight);
2441     mempool.check(pcoinsTip);
2442     // Update chainActive and related variables.
2443     UpdateTip(pindexDelete->pprev);
2444     // Get the current commitment tree
2445     ZCIncrementalMerkleTree newTree;
2446     assert(pcoinsTip->GetAnchorAt(pcoinsTip->GetBestAnchor(), newTree));
2447     // Let wallets know transactions went from 1-confirmed to
2448     // 0-confirmed or conflicted:
2449     BOOST_FOREACH(const CTransaction &tx, block.vtx) {
2450         SyncWithWallets(tx, NULL);
2451     }
2452     // Update cached incremental witnesses
2453     GetMainSignals().ChainTip(pindexDelete, &block, newTree, false);
2454     return true;
2455 }
2456
2457 static int64_t nTimeReadFromDisk = 0;
2458 static int64_t nTimeConnectTotal = 0;
2459 static int64_t nTimeFlush = 0;
2460 static int64_t nTimeChainState = 0;
2461 static int64_t nTimePostConnect = 0;
2462
2463 /**
2464  * Connect a new block to chainActive. pblock is either NULL or a pointer to a CBlock
2465  * corresponding to pindexNew, to bypass loading it again from disk.
2466  */
2467 bool static ConnectTip(CValidationState &state, CBlockIndex *pindexNew, CBlock *pblock) {
2468     assert(pindexNew->pprev == chainActive.Tip());
2469     mempool.check(pcoinsTip);
2470     // Read block from disk.
2471     int64_t nTime1 = GetTimeMicros();
2472     CBlock block;
2473     if (!pblock) {
2474         if (!ReadBlockFromDisk(block, pindexNew))
2475             return AbortNode(state, "Failed to read block");
2476         pblock = &block;
2477     }
2478     // Get the current commitment tree
2479     ZCIncrementalMerkleTree oldTree;
2480     assert(pcoinsTip->GetAnchorAt(pcoinsTip->GetBestAnchor(), oldTree));
2481     // Apply the block atomically to the chain state.
2482     int64_t nTime2 = GetTimeMicros(); nTimeReadFromDisk += nTime2 - nTime1;
2483     int64_t nTime3;
2484     LogPrint("bench", "  - Load block from disk: %.2fms [%.2fs]\n", (nTime2 - nTime1) * 0.001, nTimeReadFromDisk * 0.000001);
2485     {
2486         CCoinsViewCache view(pcoinsTip);
2487         bool rv = ConnectBlock(*pblock, state, pindexNew, view);
2488         GetMainSignals().BlockChecked(*pblock, state);
2489         if (!rv) {
2490             if (state.IsInvalid())
2491                 InvalidBlockFound(pindexNew, state);
2492             return error("ConnectTip(): ConnectBlock %s failed", pindexNew->GetBlockHash().ToString());
2493         }
2494         mapBlockSource.erase(pindexNew->GetBlockHash());
2495         nTime3 = GetTimeMicros(); nTimeConnectTotal += nTime3 - nTime2;
2496         LogPrint("bench", "  - Connect total: %.2fms [%.2fs]\n", (nTime3 - nTime2) * 0.001, nTimeConnectTotal * 0.000001);
2497         assert(view.Flush());
2498     }
2499     int64_t nTime4 = GetTimeMicros(); nTimeFlush += nTime4 - nTime3;
2500     LogPrint("bench", "  - Flush: %.2fms [%.2fs]\n", (nTime4 - nTime3) * 0.001, nTimeFlush * 0.000001);
2501     // Write the chain state to disk, if necessary.
2502     if (!FlushStateToDisk(state, FLUSH_STATE_IF_NEEDED))
2503         return false;
2504     int64_t nTime5 = GetTimeMicros(); nTimeChainState += nTime5 - nTime4;
2505     LogPrint("bench", "  - Writing chainstate: %.2fms [%.2fs]\n", (nTime5 - nTime4) * 0.001, nTimeChainState * 0.000001);
2506     // Remove conflicting transactions from the mempool.
2507     list<CTransaction> txConflicted;
2508     mempool.removeForBlock(pblock->vtx, pindexNew->nHeight, txConflicted, !IsInitialBlockDownload());
2509     mempool.check(pcoinsTip);
2510     // Update chainActive & related variables.
2511     UpdateTip(pindexNew);
2512     // Tell wallet about transactions that went from mempool
2513     // to conflicted:
2514     BOOST_FOREACH(const CTransaction &tx, txConflicted) {
2515         SyncWithWallets(tx, NULL);
2516     }
2517     // ... and about transactions that got confirmed:
2518     BOOST_FOREACH(const CTransaction &tx, pblock->vtx) {
2519         SyncWithWallets(tx, pblock);
2520     }
2521     // Update cached incremental witnesses
2522     GetMainSignals().ChainTip(pindexNew, pblock, oldTree, true);
2523
2524     EnforceNodeDeprecation(pindexNew->nHeight);
2525
2526     int64_t nTime6 = GetTimeMicros(); nTimePostConnect += nTime6 - nTime5; nTimeTotal += nTime6 - nTime1;
2527     LogPrint("bench", "  - Connect postprocess: %.2fms [%.2fs]\n", (nTime6 - nTime5) * 0.001, nTimePostConnect * 0.000001);
2528     LogPrint("bench", "- Connect block: %.2fms [%.2fs]\n", (nTime6 - nTime1) * 0.001, nTimeTotal * 0.000001);
2529     return true;
2530 }
2531
2532 /**
2533  * Return the tip of the chain with the most work in it, that isn't
2534  * known to be invalid (it's however far from certain to be valid).
2535  */
2536 static CBlockIndex* FindMostWorkChain() {
2537     do {
2538         CBlockIndex *pindexNew = NULL;
2539
2540         // Find the best candidate header.
2541         {
2542             std::set<CBlockIndex*, CBlockIndexWorkComparator>::reverse_iterator it = setBlockIndexCandidates.rbegin();
2543             if (it == setBlockIndexCandidates.rend())
2544                 return NULL;
2545             pindexNew = *it;
2546         }
2547
2548         // Check whether all blocks on the path between the currently active chain and the candidate are valid.
2549         // Just going until the active chain is an optimization, as we know all blocks in it are valid already.
2550         CBlockIndex *pindexTest = pindexNew;
2551         bool fInvalidAncestor = false;
2552         while (pindexTest && !chainActive.Contains(pindexTest)) {
2553             assert(pindexTest->nChainTx || pindexTest->nHeight == 0);
2554
2555             // Pruned nodes may have entries in setBlockIndexCandidates for
2556             // which block files have been deleted.  Remove those as candidates
2557             // for the most work chain if we come across them; we can't switch
2558             // to a chain unless we have all the non-active-chain parent blocks.
2559             bool fFailedChain = pindexTest->nStatus & BLOCK_FAILED_MASK;
2560             bool fMissingData = !(pindexTest->nStatus & BLOCK_HAVE_DATA);
2561             if (fFailedChain || fMissingData) {
2562                 // Candidate chain is not usable (either invalid or missing data)
2563                 if (fFailedChain && (pindexBestInvalid == NULL || pindexNew->nChainWork > pindexBestInvalid->nChainWork))
2564                     pindexBestInvalid = pindexNew;
2565                 CBlockIndex *pindexFailed = pindexNew;
2566                 // Remove the entire chain from the set.
2567                 while (pindexTest != pindexFailed) {
2568                     if (fFailedChain) {
2569                         pindexFailed->nStatus |= BLOCK_FAILED_CHILD;
2570                     } else if (fMissingData) {
2571                         // If we're missing data, then add back to mapBlocksUnlinked,
2572                         // so that if the block arrives in the future we can try adding
2573                         // to setBlockIndexCandidates again.
2574                         mapBlocksUnlinked.insert(std::make_pair(pindexFailed->pprev, pindexFailed));
2575                     }
2576                     setBlockIndexCandidates.erase(pindexFailed);
2577                     pindexFailed = pindexFailed->pprev;
2578                 }
2579                 setBlockIndexCandidates.erase(pindexTest);
2580                 fInvalidAncestor = true;
2581                 break;
2582             }
2583             pindexTest = pindexTest->pprev;
2584         }
2585         if (!fInvalidAncestor)
2586             return pindexNew;
2587     } while(true);
2588 }
2589
2590 /** Delete all entries in setBlockIndexCandidates that are worse than the current tip. */
2591 static void PruneBlockIndexCandidates() {
2592     // Note that we can't delete the current block itself, as we may need to return to it later in case a
2593     // reorganization to a better block fails.
2594     std::set<CBlockIndex*, CBlockIndexWorkComparator>::iterator it = setBlockIndexCandidates.begin();
2595     while (it != setBlockIndexCandidates.end() && setBlockIndexCandidates.value_comp()(*it, chainActive.Tip())) {
2596         setBlockIndexCandidates.erase(it++);
2597     }
2598     // Either the current tip or a successor of it we're working towards is left in setBlockIndexCandidates.
2599     assert(!setBlockIndexCandidates.empty());
2600 }
2601
2602 /**
2603  * Try to make some progress towards making pindexMostWork the active block.
2604  * pblock is either NULL or a pointer to a CBlock corresponding to pindexMostWork.
2605  */
2606 static bool ActivateBestChainStep(CValidationState &state, CBlockIndex *pindexMostWork, CBlock *pblock) {
2607     AssertLockHeld(cs_main);
2608     bool fInvalidFound = false;
2609     const CBlockIndex *pindexOldTip = chainActive.Tip();
2610     const CBlockIndex *pindexFork = chainActive.FindFork(pindexMostWork);
2611
2612     // Disconnect active blocks which are no longer in the best chain.
2613     while (chainActive.Tip() && chainActive.Tip() != pindexFork) {
2614         if (!DisconnectTip(state))
2615             return false;
2616     }
2617
2618     // Build list of new blocks to connect.
2619     std::vector<CBlockIndex*> vpindexToConnect;
2620     bool fContinue = true;
2621     int nHeight = pindexFork ? pindexFork->nHeight : -1;
2622     while (fContinue && nHeight != pindexMostWork->nHeight) {
2623     // Don't iterate the entire list of potential improvements toward the best tip, as we likely only need
2624     // a few blocks along the way.
2625     int nTargetHeight = std::min(nHeight + 32, pindexMostWork->nHeight);
2626     vpindexToConnect.clear();
2627     vpindexToConnect.reserve(nTargetHeight - nHeight);
2628     CBlockIndex *pindexIter = pindexMostWork->GetAncestor(nTargetHeight);
2629     while (pindexIter && pindexIter->nHeight != nHeight) {
2630         vpindexToConnect.push_back(pindexIter);
2631         pindexIter = pindexIter->pprev;
2632     }
2633     nHeight = nTargetHeight;
2634
2635     // Connect new blocks.
2636     BOOST_REVERSE_FOREACH(CBlockIndex *pindexConnect, vpindexToConnect) {
2637         if (!ConnectTip(state, pindexConnect, pindexConnect == pindexMostWork ? pblock : NULL)) {
2638             if (state.IsInvalid()) {
2639                 // The block violates a consensus rule.
2640                 if (!state.CorruptionPossible())
2641                     InvalidChainFound(vpindexToConnect.back());
2642                 state = CValidationState();
2643                 fInvalidFound = true;
2644                 fContinue = false;
2645                 break;
2646             } else {
2647                 // A system error occurred (disk space, database error, ...).
2648                 return false;
2649             }
2650         } else {
2651             PruneBlockIndexCandidates();
2652             if (!pindexOldTip || chainActive.Tip()->nChainWork > pindexOldTip->nChainWork) {
2653                 // We're in a better position than we were. Return temporarily to release the lock.
2654                 fContinue = false;
2655                 break;
2656             }
2657         }
2658     }
2659     }
2660
2661     // Callbacks/notifications for a new best chain.
2662     if (fInvalidFound)
2663         CheckForkWarningConditionsOnNewFork(vpindexToConnect.back());
2664     else
2665         CheckForkWarningConditions();
2666
2667     return true;
2668 }
2669
2670 /**
2671  * Make the best chain active, in multiple steps. The result is either failure
2672  * or an activated best chain. pblock is either NULL or a pointer to a block
2673  * that is already loaded (to avoid loading it again from disk).
2674  */
2675 bool ActivateBestChain(CValidationState &state, CBlock *pblock) {
2676     CBlockIndex *pindexNewTip = NULL;
2677     CBlockIndex *pindexMostWork = NULL;
2678     const CChainParams& chainParams = Params();
2679     do {
2680         boost::this_thread::interruption_point();
2681
2682         bool fInitialDownload;
2683         {
2684             LOCK(cs_main);
2685             pindexMostWork = FindMostWorkChain();
2686
2687             // Whether we have anything to do at all.
2688             if (pindexMostWork == NULL || pindexMostWork == chainActive.Tip())
2689                 return true;
2690
2691             if (!ActivateBestChainStep(state, pindexMostWork, pblock && pblock->GetHash() == pindexMostWork->GetBlockHash() ? pblock : NULL))
2692                 return false;
2693
2694             pindexNewTip = chainActive.Tip();
2695             fInitialDownload = IsInitialBlockDownload();
2696         }
2697         // When we reach this point, we switched to a new tip (stored in pindexNewTip).
2698
2699         // Notifications/callbacks that can run without cs_main
2700         if (!fInitialDownload) {
2701             uint256 hashNewTip = pindexNewTip->GetBlockHash();
2702             // Relay inventory, but don't relay old inventory during initial block download.
2703             int nBlockEstimate = 0;
2704             if (fCheckpointsEnabled)
2705                 nBlockEstimate = Checkpoints::GetTotalBlocksEstimate(chainParams.Checkpoints());
2706             // Don't relay blocks if pruning -- could cause a peer to try to download, resulting
2707             // in a stalled download if the block file is pruned before the request.
2708             if (nLocalServices & NODE_NETWORK) {
2709                 LOCK(cs_vNodes);
2710                 BOOST_FOREACH(CNode* pnode, vNodes)
2711                     if (chainActive.Height() > (pnode->nStartingHeight != -1 ? pnode->nStartingHeight - 2000 : nBlockEstimate))
2712                         pnode->PushInventory(CInv(MSG_BLOCK, hashNewTip));
2713             }
2714             // Notify external listeners about the new tip.
2715             GetMainSignals().UpdatedBlockTip(pindexNewTip);
2716             uiInterface.NotifyBlockTip(hashNewTip);
2717         }
2718     } while(pindexMostWork != chainActive.Tip());
2719     CheckBlockIndex();
2720
2721     // Write changes periodically to disk, after relay.
2722     if (!FlushStateToDisk(state, FLUSH_STATE_PERIODIC)) {
2723         return false;
2724     }
2725
2726     return true;
2727 }
2728
2729 bool InvalidateBlock(CValidationState& state, CBlockIndex *pindex) {
2730     AssertLockHeld(cs_main);
2731
2732     // Mark the block itself as invalid.
2733     pindex->nStatus |= BLOCK_FAILED_VALID;
2734     setDirtyBlockIndex.insert(pindex);
2735     setBlockIndexCandidates.erase(pindex);
2736
2737     while (chainActive.Contains(pindex)) {
2738         CBlockIndex *pindexWalk = chainActive.Tip();
2739         pindexWalk->nStatus |= BLOCK_FAILED_CHILD;
2740         setDirtyBlockIndex.insert(pindexWalk);
2741         setBlockIndexCandidates.erase(pindexWalk);
2742         // ActivateBestChain considers blocks already in chainActive
2743         // unconditionally valid already, so force disconnect away from it.
2744         if (!DisconnectTip(state)) {
2745             return false;
2746         }
2747     }
2748
2749     // The resulting new best tip may not be in setBlockIndexCandidates anymore, so
2750     // add it again.
2751     BlockMap::iterator it = mapBlockIndex.begin();
2752     while (it != mapBlockIndex.end()) {
2753         if (it->second->IsValid(BLOCK_VALID_TRANSACTIONS) && it->second->nChainTx && !setBlockIndexCandidates.value_comp()(it->second, chainActive.Tip())) {
2754             setBlockIndexCandidates.insert(it->second);
2755         }
2756         it++;
2757     }
2758
2759     InvalidChainFound(pindex);
2760     return true;
2761 }
2762
2763 bool ReconsiderBlock(CValidationState& state, CBlockIndex *pindex) {
2764     AssertLockHeld(cs_main);
2765
2766     int nHeight = pindex->nHeight;
2767
2768     // Remove the invalidity flag from this block and all its descendants.
2769     BlockMap::iterator it = mapBlockIndex.begin();
2770     while (it != mapBlockIndex.end()) {
2771         if (!it->second->IsValid() && it->second->GetAncestor(nHeight) == pindex) {
2772             it->second->nStatus &= ~BLOCK_FAILED_MASK;
2773             setDirtyBlockIndex.insert(it->second);
2774             if (it->second->IsValid(BLOCK_VALID_TRANSACTIONS) && it->second->nChainTx && setBlockIndexCandidates.value_comp()(chainActive.Tip(), it->second)) {
2775                 setBlockIndexCandidates.insert(it->second);
2776             }
2777             if (it->second == pindexBestInvalid) {
2778                 // Reset invalid block marker if it was pointing to one of those.
2779                 pindexBestInvalid = NULL;
2780             }
2781         }
2782         it++;
2783     }
2784
2785     // Remove the invalidity flag from all ancestors too.
2786     while (pindex != NULL) {
2787         if (pindex->nStatus & BLOCK_FAILED_MASK) {
2788             pindex->nStatus &= ~BLOCK_FAILED_MASK;
2789             setDirtyBlockIndex.insert(pindex);
2790         }
2791         pindex = pindex->pprev;
2792     }
2793     return true;
2794 }
2795
2796 CBlockIndex* AddToBlockIndex(const CBlockHeader& block)
2797 {
2798     // Check for duplicate
2799     uint256 hash = block.GetHash();
2800     BlockMap::iterator it = mapBlockIndex.find(hash);
2801     if (it != mapBlockIndex.end())
2802         return it->second;
2803
2804     // Construct new block index object
2805     CBlockIndex* pindexNew = new CBlockIndex(block);
2806     assert(pindexNew);
2807     // We assign the sequence id to blocks only when the full data is available,
2808     // to avoid miners withholding blocks but broadcasting headers, to get a
2809     // competitive advantage.
2810     pindexNew->nSequenceId = 0;
2811     BlockMap::iterator mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
2812     pindexNew->phashBlock = &((*mi).first);
2813     BlockMap::iterator miPrev = mapBlockIndex.find(block.hashPrevBlock);
2814     if (miPrev != mapBlockIndex.end())
2815     {
2816         pindexNew->pprev = (*miPrev).second;
2817         pindexNew->nHeight = pindexNew->pprev->nHeight + 1;
2818         pindexNew->BuildSkip();
2819     }
2820     pindexNew->nChainWork = (pindexNew->pprev ? pindexNew->pprev->nChainWork : 0) + GetBlockProof(*pindexNew);
2821     pindexNew->RaiseValidity(BLOCK_VALID_TREE);
2822     if (pindexBestHeader == NULL || pindexBestHeader->nChainWork < pindexNew->nChainWork)
2823         pindexBestHeader = pindexNew;
2824
2825     setDirtyBlockIndex.insert(pindexNew);
2826
2827     return pindexNew;
2828 }
2829
2830 /** Mark a block as having its data received and checked (up to BLOCK_VALID_TRANSACTIONS). */
2831 bool ReceivedBlockTransactions(const CBlock &block, CValidationState& state, CBlockIndex *pindexNew, const CDiskBlockPos& pos)
2832 {
2833     pindexNew->nTx = block.vtx.size();
2834     pindexNew->nChainTx = 0;
2835     pindexNew->nFile = pos.nFile;
2836     pindexNew->nDataPos = pos.nPos;
2837     pindexNew->nUndoPos = 0;
2838     pindexNew->nStatus |= BLOCK_HAVE_DATA;
2839     pindexNew->RaiseValidity(BLOCK_VALID_TRANSACTIONS);
2840     setDirtyBlockIndex.insert(pindexNew);
2841
2842     if (pindexNew->pprev == NULL || pindexNew->pprev->nChainTx) {
2843         // If pindexNew is the genesis block or all parents are BLOCK_VALID_TRANSACTIONS.
2844         deque<CBlockIndex*> queue;
2845         queue.push_back(pindexNew);
2846
2847         // Recursively process any descendant blocks that now may be eligible to be connected.
2848         while (!queue.empty()) {
2849             CBlockIndex *pindex = queue.front();
2850             queue.pop_front();
2851             pindex->nChainTx = (pindex->pprev ? pindex->pprev->nChainTx : 0) + pindex->nTx;
2852             {
2853                 LOCK(cs_nBlockSequenceId);
2854                 pindex->nSequenceId = nBlockSequenceId++;
2855             }
2856             if (chainActive.Tip() == NULL || !setBlockIndexCandidates.value_comp()(pindex, chainActive.Tip())) {
2857                 setBlockIndexCandidates.insert(pindex);
2858             }
2859             std::pair<std::multimap<CBlockIndex*, CBlockIndex*>::iterator, std::multimap<CBlockIndex*, CBlockIndex*>::iterator> range = mapBlocksUnlinked.equal_range(pindex);
2860             while (range.first != range.second) {
2861                 std::multimap<CBlockIndex*, CBlockIndex*>::iterator it = range.first;
2862                 queue.push_back(it->second);
2863                 range.first++;
2864                 mapBlocksUnlinked.erase(it);
2865             }
2866         }
2867     } else {
2868         if (pindexNew->pprev && pindexNew->pprev->IsValid(BLOCK_VALID_TREE)) {
2869             mapBlocksUnlinked.insert(std::make_pair(pindexNew->pprev, pindexNew));
2870         }
2871     }
2872
2873     return true;
2874 }
2875
2876 bool FindBlockPos(CValidationState &state, CDiskBlockPos &pos, unsigned int nAddSize, unsigned int nHeight, uint64_t nTime, bool fKnown = false)
2877 {
2878     LOCK(cs_LastBlockFile);
2879
2880     unsigned int nFile = fKnown ? pos.nFile : nLastBlockFile;
2881     if (vinfoBlockFile.size() <= nFile) {
2882         vinfoBlockFile.resize(nFile + 1);
2883     }
2884
2885     if (!fKnown) {
2886         while (vinfoBlockFile[nFile].nSize + nAddSize >= MAX_BLOCKFILE_SIZE) {
2887             nFile++;
2888             if (vinfoBlockFile.size() <= nFile) {
2889                 vinfoBlockFile.resize(nFile + 1);
2890             }
2891         }
2892         pos.nFile = nFile;
2893         pos.nPos = vinfoBlockFile[nFile].nSize;
2894     }
2895
2896     if (nFile != nLastBlockFile) {
2897         if (!fKnown) {
2898             LogPrintf("Leaving block file %i: %s\n", nFile, vinfoBlockFile[nFile].ToString());
2899         }
2900         FlushBlockFile(!fKnown);
2901         nLastBlockFile = nFile;
2902     }
2903
2904     vinfoBlockFile[nFile].AddBlock(nHeight, nTime);
2905     if (fKnown)
2906         vinfoBlockFile[nFile].nSize = std::max(pos.nPos + nAddSize, vinfoBlockFile[nFile].nSize);
2907     else
2908         vinfoBlockFile[nFile].nSize += nAddSize;
2909
2910     if (!fKnown) {
2911         unsigned int nOldChunks = (pos.nPos + BLOCKFILE_CHUNK_SIZE - 1) / BLOCKFILE_CHUNK_SIZE;
2912         unsigned int nNewChunks = (vinfoBlockFile[nFile].nSize + BLOCKFILE_CHUNK_SIZE - 1) / BLOCKFILE_CHUNK_SIZE;
2913         if (nNewChunks > nOldChunks) {
2914             if (fPruneMode)
2915                 fCheckForPruning = true;
2916             if (CheckDiskSpace(nNewChunks * BLOCKFILE_CHUNK_SIZE - pos.nPos)) {
2917                 FILE *file = OpenBlockFile(pos);
2918                 if (file) {
2919                     LogPrintf("Pre-allocating up to position 0x%x in blk%05u.dat\n", nNewChunks * BLOCKFILE_CHUNK_SIZE, pos.nFile);
2920                     AllocateFileRange(file, pos.nPos, nNewChunks * BLOCKFILE_CHUNK_SIZE - pos.nPos);
2921                     fclose(file);
2922                 }
2923             }
2924             else
2925                 return state.Error("out of disk space");
2926         }
2927     }
2928
2929     setDirtyFileInfo.insert(nFile);
2930     return true;
2931 }
2932
2933 bool FindUndoPos(CValidationState &state, int nFile, CDiskBlockPos &pos, unsigned int nAddSize)
2934 {
2935     pos.nFile = nFile;
2936
2937     LOCK(cs_LastBlockFile);
2938
2939     unsigned int nNewSize;
2940     pos.nPos = vinfoBlockFile[nFile].nUndoSize;
2941     nNewSize = vinfoBlockFile[nFile].nUndoSize += nAddSize;
2942     setDirtyFileInfo.insert(nFile);
2943
2944     unsigned int nOldChunks = (pos.nPos + UNDOFILE_CHUNK_SIZE - 1) / UNDOFILE_CHUNK_SIZE;
2945     unsigned int nNewChunks = (nNewSize + UNDOFILE_CHUNK_SIZE - 1) / UNDOFILE_CHUNK_SIZE;
2946     if (nNewChunks > nOldChunks) {
2947         if (fPruneMode)
2948             fCheckForPruning = true;
2949         if (CheckDiskSpace(nNewChunks * UNDOFILE_CHUNK_SIZE - pos.nPos)) {
2950             FILE *file = OpenUndoFile(pos);
2951             if (file) {
2952                 LogPrintf("Pre-allocating up to position 0x%x in rev%05u.dat\n", nNewChunks * UNDOFILE_CHUNK_SIZE, pos.nFile);
2953                 AllocateFileRange(file, pos.nPos, nNewChunks * UNDOFILE_CHUNK_SIZE - pos.nPos);
2954                 fclose(file);
2955             }
2956         }
2957         else
2958             return state.Error("out of disk space");
2959     }
2960
2961     return true;
2962 }
2963
2964 bool CheckBlockHeader(const CBlockHeader& block, CValidationState& state, bool fCheckPOW)
2965 {
2966     // Check block version
2967     if (block.nVersion < MIN_BLOCK_VERSION)
2968         return state.DoS(100, error("CheckBlockHeader(): block version too low"),
2969                          REJECT_INVALID, "version-too-low");
2970
2971     // Check Equihash solution is valid
2972     if (fCheckPOW && !CheckEquihashSolution(&block, Params()))
2973         return state.DoS(100, error("CheckBlockHeader(): Equihash solution invalid"),
2974                          REJECT_INVALID, "invalid-solution");
2975
2976     // Check proof of work matches claimed amount
2977     if (fCheckPOW && !CheckProofOfWork(block.GetHash(), block.nBits, Params().GetConsensus()))
2978         return state.DoS(50, error("CheckBlockHeader(): proof of work failed"),
2979                          REJECT_INVALID, "high-hash");
2980
2981     // Check timestamp
2982     if (block.GetBlockTime() > GetAdjustedTime() + 2 * 60 * 60)
2983         return state.Invalid(error("CheckBlockHeader(): block timestamp too far in the future"),
2984                              REJECT_INVALID, "time-too-new");
2985
2986     return true;
2987 }
2988
2989 bool CheckBlock(const CBlock& block, CValidationState& state,
2990                 libzcash::ProofVerifier& verifier,
2991                 bool fCheckPOW, bool fCheckMerkleRoot)
2992 {
2993     // These are checks that are independent of context.
2994
2995     // Check that the header is valid (particularly PoW).  This is mostly
2996     // redundant with the call in AcceptBlockHeader.
2997     if (!CheckBlockHeader(block, state, fCheckPOW))
2998         return false;
2999
3000     // Check the merkle root.
3001     if (fCheckMerkleRoot) {
3002         bool mutated;
3003         uint256 hashMerkleRoot2 = block.BuildMerkleTree(&mutated);
3004         if (block.hashMerkleRoot != hashMerkleRoot2)
3005             return state.DoS(100, error("CheckBlock(): hashMerkleRoot mismatch"),
3006                              REJECT_INVALID, "bad-txnmrklroot", true);
3007
3008         // Check for merkle tree malleability (CVE-2012-2459): repeating sequences
3009         // of transactions in a block without affecting the merkle root of a block,
3010         // while still invalidating it.
3011         if (mutated)
3012             return state.DoS(100, error("CheckBlock(): duplicate transaction"),
3013                              REJECT_INVALID, "bad-txns-duplicate", true);
3014     }
3015
3016     // All potential-corruption validation must be done before we do any
3017     // transaction validation, as otherwise we may mark the header as invalid
3018     // because we receive the wrong transactions for it.
3019
3020     // Size limits
3021     if (block.vtx.empty() || block.vtx.size() > MAX_BLOCK_SIZE || ::GetSerializeSize(block, SER_NETWORK, PROTOCOL_VERSION) > MAX_BLOCK_SIZE)
3022         return state.DoS(100, error("CheckBlock(): size limits failed"),
3023                          REJECT_INVALID, "bad-blk-length");
3024
3025     // First transaction must be coinbase, the rest must not be
3026     if (block.vtx.empty() || !block.vtx[0].IsCoinBase())
3027         return state.DoS(100, error("CheckBlock(): first tx is not coinbase"),
3028                          REJECT_INVALID, "bad-cb-missing");
3029     for (unsigned int i = 1; i < block.vtx.size(); i++)
3030         if (block.vtx[i].IsCoinBase())
3031             return state.DoS(100, error("CheckBlock(): more than one coinbase"),
3032                              REJECT_INVALID, "bad-cb-multiple");
3033
3034     // Check transactions
3035     BOOST_FOREACH(const CTransaction& tx, block.vtx)
3036         if (!CheckTransaction(tx, state, verifier))
3037             return error("CheckBlock(): CheckTransaction failed");
3038
3039     unsigned int nSigOps = 0;
3040     BOOST_FOREACH(const CTransaction& tx, block.vtx)
3041     {
3042         nSigOps += GetLegacySigOpCount(tx);
3043     }
3044     if (nSigOps > MAX_BLOCK_SIGOPS)
3045         return state.DoS(100, error("CheckBlock(): out-of-bounds SigOpCount"),
3046                          REJECT_INVALID, "bad-blk-sigops", true);
3047
3048     return true;
3049 }
3050
3051 bool ContextualCheckBlockHeader(const CBlockHeader& block, CValidationState& state, CBlockIndex * const pindexPrev)
3052 {
3053     const CChainParams& chainParams = Params();
3054     const Consensus::Params& consensusParams = chainParams.GetConsensus();
3055     uint256 hash = block.GetHash();
3056     if (hash == consensusParams.hashGenesisBlock)
3057         return true;
3058
3059     assert(pindexPrev);
3060
3061     int nHeight = pindexPrev->nHeight+1;
3062
3063     // Check proof of work
3064     if (block.nBits != GetNextWorkRequired(pindexPrev, &block, consensusParams))
3065         return state.DoS(100, error("%s: incorrect proof of work", __func__),
3066                          REJECT_INVALID, "bad-diffbits");
3067
3068     // Check timestamp against prev
3069     if (block.GetBlockTime() <= pindexPrev->GetMedianTimePast())
3070         return state.Invalid(error("%s: block's timestamp is too early", __func__),
3071                              REJECT_INVALID, "time-too-old");
3072
3073     if (fCheckpointsEnabled)
3074     {
3075         // Don't accept any forks from the main chain prior to last checkpoint
3076         CBlockIndex* pcheckpoint = Checkpoints::GetLastCheckpoint(chainParams.Checkpoints());
3077         if (pcheckpoint && nHeight < pcheckpoint->nHeight)
3078             return state.DoS(100, error("%s: forked chain older than last checkpoint (height %d)", __func__, nHeight));
3079     }
3080
3081     // Reject block.nVersion < 4 blocks
3082     if (block.nVersion < 4)
3083         return state.Invalid(error("%s : rejected nVersion<4 block", __func__),
3084                              REJECT_OBSOLETE, "bad-version");
3085
3086     return true;
3087 }
3088
3089 bool ContextualCheckBlock(const CBlock& block, CValidationState& state, CBlockIndex * const pindexPrev)
3090 {
3091     const int nHeight = pindexPrev == NULL ? 0 : pindexPrev->nHeight + 1;
3092     const Consensus::Params& consensusParams = Params().GetConsensus();
3093
3094     // Check that all transactions are finalized
3095     BOOST_FOREACH(const CTransaction& tx, block.vtx) {
3096         int nLockTimeFlags = 0;
3097         int64_t nLockTimeCutoff = (nLockTimeFlags & LOCKTIME_MEDIAN_TIME_PAST)
3098                                 ? pindexPrev->GetMedianTimePast()
3099                                 : block.GetBlockTime();
3100         if (!IsFinalTx(tx, nHeight, nLockTimeCutoff)) {
3101             return state.DoS(10, error("%s: contains a non-final transaction", __func__), REJECT_INVALID, "bad-txns-nonfinal");
3102         }
3103     }
3104
3105     // Enforce block.nVersion=2 rule that the coinbase starts with serialized block height
3106     // if 750 of the last 1,000 blocks are version 2 or greater (51/100 if testnet):
3107     // Since MIN_BLOCK_VERSION = 4 all blocks with nHeight > 0 should satisfy this.
3108     // This rule is not applied to the genesis block, which didn't include the height
3109     // in the coinbase.
3110     if (nHeight > 0)
3111     {
3112         CScript expect = CScript() << nHeight;
3113         if (block.vtx[0].vin[0].scriptSig.size() < expect.size() ||
3114             !std::equal(expect.begin(), expect.end(), block.vtx[0].vin[0].scriptSig.begin())) {
3115             return state.DoS(100, error("%s: block height mismatch in coinbase", __func__), REJECT_INVALID, "bad-cb-height");
3116         }
3117     }
3118
3119     // Coinbase transaction must include an output sending 20% of
3120     // the block reward to a founders reward script, until the last founders
3121     // reward block is reached, with exception of the genesis block.
3122     // The last founders reward block is defined as the block just before the
3123     // first subsidy halving block, which occurs at halving_interval + slow_start_shift
3124     if ((nHeight > 0) && (nHeight <= consensusParams.GetLastFoundersRewardBlockHeight())) {
3125         bool found = false;
3126
3127         BOOST_FOREACH(const CTxOut& output, block.vtx[0].vout) {
3128             if (output.scriptPubKey == Params().GetFoundersRewardScriptAtHeight(nHeight)) {
3129                 if (output.nValue == (GetBlockSubsidy(nHeight, consensusParams) / 5)) {
3130                     found = true;
3131                     break;
3132                 }
3133             }
3134         }
3135
3136         if (!found) {
3137             return state.DoS(100, error("%s: founders reward missing", __func__), REJECT_INVALID, "cb-no-founders-reward");
3138         }
3139     }
3140
3141     return true;
3142 }
3143
3144 bool AcceptBlockHeader(const CBlockHeader& block, CValidationState& state, CBlockIndex** ppindex)
3145 {
3146     const CChainParams& chainparams = Params();
3147     AssertLockHeld(cs_main);
3148     // Check for duplicate
3149     uint256 hash = block.GetHash();
3150     BlockMap::iterator miSelf = mapBlockIndex.find(hash);
3151     CBlockIndex *pindex = NULL;
3152     if (miSelf != mapBlockIndex.end()) {
3153         // Block header is already known.
3154         pindex = miSelf->second;
3155         if (ppindex)
3156             *ppindex = pindex;
3157         if (pindex->nStatus & BLOCK_FAILED_MASK)
3158             return state.Invalid(error("%s: block is marked invalid", __func__), 0, "duplicate");
3159         return true;
3160     }
3161
3162     if (!CheckBlockHeader(block, state))
3163         return false;
3164
3165     // Get prev block index
3166     CBlockIndex* pindexPrev = NULL;
3167     if (hash != chainparams.GetConsensus().hashGenesisBlock) {
3168         BlockMap::iterator mi = mapBlockIndex.find(block.hashPrevBlock);
3169         if (mi == mapBlockIndex.end())
3170             return state.DoS(10, error("%s: prev block not found", __func__), 0, "bad-prevblk");
3171         pindexPrev = (*mi).second;
3172         if (pindexPrev->nStatus & BLOCK_FAILED_MASK)
3173             return state.DoS(100, error("%s: prev block invalid", __func__), REJECT_INVALID, "bad-prevblk");
3174     }
3175
3176     if (!ContextualCheckBlockHeader(block, state, pindexPrev))
3177         return false;
3178
3179     if (pindex == NULL)
3180         pindex = AddToBlockIndex(block);
3181
3182     if (ppindex)
3183         *ppindex = pindex;
3184
3185     return true;
3186 }
3187
3188 bool AcceptBlock(CBlock& block, CValidationState& state, CBlockIndex** ppindex, bool fRequested, CDiskBlockPos* dbp)
3189 {
3190     const CChainParams& chainparams = Params();
3191     AssertLockHeld(cs_main);
3192
3193     CBlockIndex *&pindex = *ppindex;
3194
3195     if (!AcceptBlockHeader(block, state, &pindex))
3196         return false;
3197
3198     // Try to process all requested blocks that we don't have, but only
3199     // process an unrequested block if it's new and has enough work to
3200     // advance our tip, and isn't too many blocks ahead.
3201     bool fAlreadyHave = pindex->nStatus & BLOCK_HAVE_DATA;
3202     bool fHasMoreWork = (chainActive.Tip() ? pindex->nChainWork > chainActive.Tip()->nChainWork : true);
3203     // Blocks that are too out-of-order needlessly limit the effectiveness of
3204     // pruning, because pruning will not delete block files that contain any
3205     // blocks which are too close in height to the tip.  Apply this test
3206     // regardless of whether pruning is enabled; it should generally be safe to
3207     // not process unrequested blocks.
3208     bool fTooFarAhead = (pindex->nHeight > int(chainActive.Height() + MIN_BLOCKS_TO_KEEP));
3209
3210     // TODO: deal better with return value and error conditions for duplicate
3211     // and unrequested blocks.
3212     if (fAlreadyHave) return true;
3213     if (!fRequested) {  // If we didn't ask for it:
3214         if (pindex->nTx != 0) return true;  // This is a previously-processed block that was pruned
3215         if (!fHasMoreWork) return true;     // Don't process less-work chains
3216         if (fTooFarAhead) return true;      // Block height is too high
3217     }
3218
3219     // See method docstring for why this is always disabled
3220     auto verifier = libzcash::ProofVerifier::Disabled();
3221     if ((!CheckBlock(block, state, verifier)) || !ContextualCheckBlock(block, state, pindex->pprev)) {
3222         if (state.IsInvalid() && !state.CorruptionPossible()) {
3223             pindex->nStatus |= BLOCK_FAILED_VALID;
3224             setDirtyBlockIndex.insert(pindex);
3225         }
3226         return false;
3227     }
3228
3229     int nHeight = pindex->nHeight;
3230
3231     // Write block to history file
3232     try {
3233         unsigned int nBlockSize = ::GetSerializeSize(block, SER_DISK, CLIENT_VERSION);
3234         CDiskBlockPos blockPos;
3235         if (dbp != NULL)
3236             blockPos = *dbp;
3237         if (!FindBlockPos(state, blockPos, nBlockSize+8, nHeight, block.GetBlockTime(), dbp != NULL))
3238             return error("AcceptBlock(): FindBlockPos failed");
3239         if (dbp == NULL)
3240             if (!WriteBlockToDisk(block, blockPos, chainparams.MessageStart()))
3241                 AbortNode(state, "Failed to write block");
3242         if (!ReceivedBlockTransactions(block, state, pindex, blockPos))
3243             return error("AcceptBlock(): ReceivedBlockTransactions failed");
3244     } catch (const std::runtime_error& e) {
3245         return AbortNode(state, std::string("System error: ") + e.what());
3246     }
3247
3248     if (fCheckForPruning)
3249         FlushStateToDisk(state, FLUSH_STATE_NONE); // we just allocated more disk space for block files
3250
3251     return true;
3252 }
3253
3254 static bool IsSuperMajority(int minVersion, const CBlockIndex* pstart, unsigned nRequired, const Consensus::Params& consensusParams)
3255 {
3256     unsigned int nFound = 0;
3257     for (int i = 0; i < consensusParams.nMajorityWindow && nFound < nRequired && pstart != NULL; i++)
3258     {
3259         if (pstart->nVersion >= minVersion)
3260             ++nFound;
3261         pstart = pstart->pprev;
3262     }
3263     return (nFound >= nRequired);
3264 }
3265
3266
3267 bool ProcessNewBlock(CValidationState &state, CNode* pfrom, CBlock* pblock, bool fForceProcessing, CDiskBlockPos *dbp)
3268 {
3269     // Preliminary checks
3270     auto verifier = libzcash::ProofVerifier::Disabled();
3271     bool checked = CheckBlock(*pblock, state, verifier);
3272
3273     {
3274         LOCK(cs_main);
3275         bool fRequested = MarkBlockAsReceived(pblock->GetHash());
3276         fRequested |= fForceProcessing;
3277         if (!checked) {
3278             return error("%s: CheckBlock FAILED", __func__);
3279         }
3280
3281         // Store to disk
3282         CBlockIndex *pindex = NULL;
3283         bool ret = AcceptBlock(*pblock, state, &pindex, fRequested, dbp);
3284         if (pindex && pfrom) {
3285             mapBlockSource[pindex->GetBlockHash()] = pfrom->GetId();
3286         }
3287         CheckBlockIndex();
3288         if (!ret)
3289             return error("%s: AcceptBlock FAILED", __func__);
3290     }
3291
3292     if (!ActivateBestChain(state, pblock))
3293         return error("%s: ActivateBestChain failed", __func__);
3294
3295     return true;
3296 }
3297
3298 bool TestBlockValidity(CValidationState &state, const CBlock& block, CBlockIndex * const pindexPrev, bool fCheckPOW, bool fCheckMerkleRoot)
3299 {
3300     AssertLockHeld(cs_main);
3301     assert(pindexPrev == chainActive.Tip());
3302
3303     CCoinsViewCache viewNew(pcoinsTip);
3304     CBlockIndex indexDummy(block);
3305     indexDummy.pprev = pindexPrev;
3306     indexDummy.nHeight = pindexPrev->nHeight + 1;
3307     // JoinSplit proofs are verified in ConnectBlock
3308     auto verifier = libzcash::ProofVerifier::Disabled();
3309
3310     // NOTE: CheckBlockHeader is called by CheckBlock
3311     if (!ContextualCheckBlockHeader(block, state, pindexPrev))
3312         return false;
3313     if (!CheckBlock(block, state, verifier, fCheckPOW, fCheckMerkleRoot))
3314         return false;
3315     if (!ContextualCheckBlock(block, state, pindexPrev))
3316         return false;
3317     if (!ConnectBlock(block, state, &indexDummy, viewNew, true))
3318         return false;
3319     assert(state.IsValid());
3320
3321     return true;
3322 }
3323
3324 /**
3325  * BLOCK PRUNING CODE
3326  */
3327
3328 /* Calculate the amount of disk space the block & undo files currently use */
3329 uint64_t CalculateCurrentUsage()
3330 {
3331     uint64_t retval = 0;
3332     BOOST_FOREACH(const CBlockFileInfo &file, vinfoBlockFile) {
3333         retval += file.nSize + file.nUndoSize;
3334     }
3335     return retval;
3336 }
3337
3338 /* Prune a block file (modify associated database entries)*/
3339 void PruneOneBlockFile(const int fileNumber)
3340 {
3341     for (BlockMap::iterator it = mapBlockIndex.begin(); it != mapBlockIndex.end(); ++it) {
3342         CBlockIndex* pindex = it->second;
3343         if (pindex->nFile == fileNumber) {
3344             pindex->nStatus &= ~BLOCK_HAVE_DATA;
3345             pindex->nStatus &= ~BLOCK_HAVE_UNDO;
3346             pindex->nFile = 0;
3347             pindex->nDataPos = 0;
3348             pindex->nUndoPos = 0;
3349             setDirtyBlockIndex.insert(pindex);
3350
3351             // Prune from mapBlocksUnlinked -- any block we prune would have
3352             // to be downloaded again in order to consider its chain, at which
3353             // point it would be considered as a candidate for
3354             // mapBlocksUnlinked or setBlockIndexCandidates.
3355             std::pair<std::multimap<CBlockIndex*, CBlockIndex*>::iterator, std::multimap<CBlockIndex*, CBlockIndex*>::iterator> range = mapBlocksUnlinked.equal_range(pindex->pprev);
3356             while (range.first != range.second) {
3357                 std::multimap<CBlockIndex *, CBlockIndex *>::iterator it = range.first;
3358                 range.first++;
3359                 if (it->second == pindex) {
3360                     mapBlocksUnlinked.erase(it);
3361                 }
3362             }
3363         }
3364     }
3365
3366     vinfoBlockFile[fileNumber].SetNull();
3367     setDirtyFileInfo.insert(fileNumber);
3368 }
3369
3370
3371 void UnlinkPrunedFiles(std::set<int>& setFilesToPrune)
3372 {
3373     for (set<int>::iterator it = setFilesToPrune.begin(); it != setFilesToPrune.end(); ++it) {
3374         CDiskBlockPos pos(*it, 0);
3375         boost::filesystem::remove(GetBlockPosFilename(pos, "blk"));
3376         boost::filesystem::remove(GetBlockPosFilename(pos, "rev"));
3377         LogPrintf("Prune: %s deleted blk/rev (%05u)\n", __func__, *it);
3378     }
3379 }
3380
3381 /* Calculate the block/rev files that should be deleted to remain under target*/
3382 void FindFilesToPrune(std::set<int>& setFilesToPrune)
3383 {
3384     LOCK2(cs_main, cs_LastBlockFile);
3385     if (chainActive.Tip() == NULL || nPruneTarget == 0) {
3386         return;
3387     }
3388     if (chainActive.Tip()->nHeight <= Params().PruneAfterHeight()) {
3389         return;
3390     }
3391
3392     unsigned int nLastBlockWeCanPrune = chainActive.Tip()->nHeight - MIN_BLOCKS_TO_KEEP;
3393     uint64_t nCurrentUsage = CalculateCurrentUsage();
3394     // We don't check to prune until after we've allocated new space for files
3395     // So we should leave a buffer under our target to account for another allocation
3396     // before the next pruning.
3397     uint64_t nBuffer = BLOCKFILE_CHUNK_SIZE + UNDOFILE_CHUNK_SIZE;
3398     uint64_t nBytesToPrune;
3399     int count=0;
3400
3401     if (nCurrentUsage + nBuffer >= nPruneTarget) {
3402         for (int fileNumber = 0; fileNumber < nLastBlockFile; fileNumber++) {
3403             nBytesToPrune = vinfoBlockFile[fileNumber].nSize + vinfoBlockFile[fileNumber].nUndoSize;
3404
3405             if (vinfoBlockFile[fileNumber].nSize == 0)
3406                 continue;
3407
3408             if (nCurrentUsage + nBuffer < nPruneTarget)  // are we below our target?
3409                 break;
3410
3411             // don't prune files that could have a block within MIN_BLOCKS_TO_KEEP of the main chain's tip but keep scanning
3412             if (vinfoBlockFile[fileNumber].nHeightLast > nLastBlockWeCanPrune)
3413                 continue;
3414
3415             PruneOneBlockFile(fileNumber);
3416             // Queue up the files for removal
3417             setFilesToPrune.insert(fileNumber);
3418             nCurrentUsage -= nBytesToPrune;
3419             count++;
3420         }
3421     }
3422
3423     LogPrint("prune", "Prune: target=%dMiB actual=%dMiB diff=%dMiB max_prune_height=%d removed %d blk/rev pairs\n",
3424            nPruneTarget/1024/1024, nCurrentUsage/1024/1024,
3425            ((int64_t)nPruneTarget - (int64_t)nCurrentUsage)/1024/1024,
3426            nLastBlockWeCanPrune, count);
3427 }
3428
3429 bool CheckDiskSpace(uint64_t nAdditionalBytes)
3430 {
3431     uint64_t nFreeBytesAvailable = boost::filesystem::space(GetDataDir()).available;
3432
3433     // Check for nMinDiskSpace bytes (currently 50MB)
3434     if (nFreeBytesAvailable < nMinDiskSpace + nAdditionalBytes)
3435         return AbortNode("Disk space is low!", _("Error: Disk space is low!"));
3436
3437     return true;
3438 }
3439
3440 FILE* OpenDiskFile(const CDiskBlockPos &pos, const char *prefix, bool fReadOnly)
3441 {
3442     if (pos.IsNull())
3443         return NULL;
3444     boost::filesystem::path path = GetBlockPosFilename(pos, prefix);
3445     boost::filesystem::create_directories(path.parent_path());
3446     FILE* file = fopen(path.string().c_str(), "rb+");
3447     if (!file && !fReadOnly)
3448         file = fopen(path.string().c_str(), "wb+");
3449     if (!file) {
3450         LogPrintf("Unable to open file %s\n", path.string());
3451         return NULL;
3452     }
3453     if (pos.nPos) {
3454         if (fseek(file, pos.nPos, SEEK_SET)) {
3455             LogPrintf("Unable to seek to position %u of %s\n", pos.nPos, path.string());
3456             fclose(file);
3457             return NULL;
3458         }
3459     }
3460     return file;
3461 }
3462
3463 FILE* OpenBlockFile(const CDiskBlockPos &pos, bool fReadOnly) {
3464     return OpenDiskFile(pos, "blk", fReadOnly);
3465 }
3466
3467 FILE* OpenUndoFile(const CDiskBlockPos &pos, bool fReadOnly) {
3468     return OpenDiskFile(pos, "rev", fReadOnly);
3469 }
3470
3471 boost::filesystem::path GetBlockPosFilename(const CDiskBlockPos &pos, const char *prefix)
3472 {
3473     return GetDataDir() / "blocks" / strprintf("%s%05u.dat", prefix, pos.nFile);
3474 }
3475
3476 CBlockIndex * InsertBlockIndex(uint256 hash)
3477 {
3478     if (hash.IsNull())
3479         return NULL;
3480
3481     // Return existing
3482     BlockMap::iterator mi = mapBlockIndex.find(hash);
3483     if (mi != mapBlockIndex.end())
3484         return (*mi).second;
3485
3486     // Create new
3487     CBlockIndex* pindexNew = new CBlockIndex();
3488     if (!pindexNew)
3489         throw runtime_error("LoadBlockIndex(): new CBlockIndex failed");
3490     mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
3491     pindexNew->phashBlock = &((*mi).first);
3492
3493     return pindexNew;
3494 }
3495
3496 bool static LoadBlockIndexDB()
3497 {
3498     const CChainParams& chainparams = Params();
3499     if (!pblocktree->LoadBlockIndexGuts())
3500         return false;
3501
3502     boost::this_thread::interruption_point();
3503
3504     // Calculate nChainWork
3505     vector<pair<int, CBlockIndex*> > vSortedByHeight;
3506     vSortedByHeight.reserve(mapBlockIndex.size());
3507     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3508     {
3509         CBlockIndex* pindex = item.second;
3510         vSortedByHeight.push_back(make_pair(pindex->nHeight, pindex));
3511     }
3512     sort(vSortedByHeight.begin(), vSortedByHeight.end());
3513     BOOST_FOREACH(const PAIRTYPE(int, CBlockIndex*)& item, vSortedByHeight)
3514     {
3515         CBlockIndex* pindex = item.second;
3516         pindex->nChainWork = (pindex->pprev ? pindex->pprev->nChainWork : 0) + GetBlockProof(*pindex);
3517         // We can link the chain of blocks for which we've received transactions at some point.
3518         // Pruned nodes may have deleted the block.
3519         if (pindex->nTx > 0) {
3520             if (pindex->pprev) {
3521                 if (pindex->pprev->nChainTx) {
3522                     pindex->nChainTx = pindex->pprev->nChainTx + pindex->nTx;
3523                 } else {
3524                     pindex->nChainTx = 0;
3525                     mapBlocksUnlinked.insert(std::make_pair(pindex->pprev, pindex));
3526                 }
3527             } else {
3528                 pindex->nChainTx = pindex->nTx;
3529             }
3530         }
3531         if (pindex->IsValid(BLOCK_VALID_TRANSACTIONS) && (pindex->nChainTx || pindex->pprev == NULL))
3532             setBlockIndexCandidates.insert(pindex);
3533         if (pindex->nStatus & BLOCK_FAILED_MASK && (!pindexBestInvalid || pindex->nChainWork > pindexBestInvalid->nChainWork))
3534             pindexBestInvalid = pindex;
3535         if (pindex->pprev)
3536             pindex->BuildSkip();
3537         if (pindex->IsValid(BLOCK_VALID_TREE) && (pindexBestHeader == NULL || CBlockIndexWorkComparator()(pindexBestHeader, pindex)))
3538             pindexBestHeader = pindex;
3539     }
3540
3541     // Load block file info
3542     pblocktree->ReadLastBlockFile(nLastBlockFile);
3543     vinfoBlockFile.resize(nLastBlockFile + 1);
3544     LogPrintf("%s: last block file = %i\n", __func__, nLastBlockFile);
3545     for (int nFile = 0; nFile <= nLastBlockFile; nFile++) {
3546         pblocktree->ReadBlockFileInfo(nFile, vinfoBlockFile[nFile]);
3547     }
3548     LogPrintf("%s: last block file info: %s\n", __func__, vinfoBlockFile[nLastBlockFile].ToString());
3549     for (int nFile = nLastBlockFile + 1; true; nFile++) {
3550         CBlockFileInfo info;
3551         if (pblocktree->ReadBlockFileInfo(nFile, info)) {
3552             vinfoBlockFile.push_back(info);
3553         } else {
3554             break;
3555         }
3556     }
3557
3558     // Check presence of blk files
3559     LogPrintf("Checking all blk files are present...\n");
3560     set<int> setBlkDataFiles;
3561     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3562     {
3563         CBlockIndex* pindex = item.second;
3564         if (pindex->nStatus & BLOCK_HAVE_DATA) {
3565             setBlkDataFiles.insert(pindex->nFile);
3566         }
3567     }
3568     for (std::set<int>::iterator it = setBlkDataFiles.begin(); it != setBlkDataFiles.end(); it++)
3569     {
3570         CDiskBlockPos pos(*it, 0);
3571         if (CAutoFile(OpenBlockFile(pos, true), SER_DISK, CLIENT_VERSION).IsNull()) {
3572             return false;
3573         }
3574     }
3575
3576     // Check whether we have ever pruned block & undo files
3577     pblocktree->ReadFlag("prunedblockfiles", fHavePruned);
3578     if (fHavePruned)
3579         LogPrintf("LoadBlockIndexDB(): Block files have previously been pruned\n");
3580
3581     // Check whether we need to continue reindexing
3582     bool fReindexing = false;
3583     pblocktree->ReadReindexing(fReindexing);
3584     fReindex |= fReindexing;
3585
3586     // Check whether we have a transaction index
3587     pblocktree->ReadFlag("txindex", fTxIndex);
3588     LogPrintf("%s: transaction index %s\n", __func__, fTxIndex ? "enabled" : "disabled");
3589
3590     // Fill in-memory data
3591     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
3592     {
3593         CBlockIndex* pindex = item.second;
3594         // - This relationship will always be true even if pprev has multiple
3595         //   children, because hashAnchor is technically a property of pprev,
3596         //   not its children.
3597         // - This will miss chain tips; we handle the best tip below, and other
3598         //   tips will be handled by ConnectTip during a re-org.
3599         if (pindex->pprev) {
3600             pindex->pprev->hashAnchorEnd = pindex->hashAnchor;
3601         }
3602     }
3603
3604     // Load pointer to end of best chain
3605     BlockMap::iterator it = mapBlockIndex.find(pcoinsTip->GetBestBlock());
3606     if (it == mapBlockIndex.end())
3607         return true;
3608     chainActive.SetTip(it->second);
3609     // Set hashAnchorEnd for the end of best chain
3610     it->second->hashAnchorEnd = pcoinsTip->GetBestAnchor();
3611
3612     PruneBlockIndexCandidates();
3613
3614     LogPrintf("%s: hashBestChain=%s height=%d date=%s progress=%f\n", __func__,
3615         chainActive.Tip()->GetBlockHash().ToString(), chainActive.Height(),
3616         DateTimeStrFormat("%Y-%m-%d %H:%M:%S", chainActive.Tip()->GetBlockTime()),
3617         Checkpoints::GuessVerificationProgress(chainparams.Checkpoints(), chainActive.Tip()));
3618
3619     EnforceNodeDeprecation(chainActive.Height(), true);
3620
3621     return true;
3622 }
3623
3624 CVerifyDB::CVerifyDB()
3625 {
3626     uiInterface.ShowProgress(_("Verifying blocks..."), 0);
3627 }
3628
3629 CVerifyDB::~CVerifyDB()
3630 {
3631     uiInterface.ShowProgress("", 100);
3632 }
3633
3634 bool CVerifyDB::VerifyDB(CCoinsView *coinsview, int nCheckLevel, int nCheckDepth)
3635 {
3636     LOCK(cs_main);
3637     if (chainActive.Tip() == NULL || chainActive.Tip()->pprev == NULL)
3638         return true;
3639
3640     // Verify blocks in the best chain
3641     if (nCheckDepth <= 0)
3642         nCheckDepth = 1000000000; // suffices until the year 19000
3643     if (nCheckDepth > chainActive.Height())
3644         nCheckDepth = chainActive.Height();
3645     nCheckLevel = std::max(0, std::min(4, nCheckLevel));
3646     LogPrintf("Verifying last %i blocks at level %i\n", nCheckDepth, nCheckLevel);
3647     CCoinsViewCache coins(coinsview);
3648     CBlockIndex* pindexState = chainActive.Tip();
3649     CBlockIndex* pindexFailure = NULL;
3650     int nGoodTransactions = 0;
3651     CValidationState state;
3652     // No need to verify JoinSplits twice
3653     auto verifier = libzcash::ProofVerifier::Disabled();
3654     for (CBlockIndex* pindex = chainActive.Tip(); pindex && pindex->pprev; pindex = pindex->pprev)
3655     {
3656         boost::this_thread::interruption_point();
3657         uiInterface.ShowProgress(_("Verifying blocks..."), std::max(1, std::min(99, (int)(((double)(chainActive.Height() - pindex->nHeight)) / (double)nCheckDepth * (nCheckLevel >= 4 ? 50 : 100)))));
3658         if (pindex->nHeight < chainActive.Height()-nCheckDepth)
3659             break;
3660         CBlock block;
3661         // check level 0: read from disk
3662         if (!ReadBlockFromDisk(block, pindex))
3663             return error("VerifyDB(): *** ReadBlockFromDisk failed at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3664         // check level 1: verify block validity
3665         if (nCheckLevel >= 1 && !CheckBlock(block, state, verifier))
3666             return error("VerifyDB(): *** found bad block at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
3667         // check level 2: verify undo validity
3668         if (nCheckLevel >= 2 && pindex) {
3669             CBlockUndo undo;
3670             CDiskBlockPos pos = pindex->GetUndoPos();
3671             if (!pos.IsNull()) {
3672                 if (!UndoReadFromDisk(undo, pos, pindex->pprev->GetBlockHash()))
3673                     return error("VerifyDB(): *** found bad undo data at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
3674             }
3675         }
3676         // check level 3: check for inconsistencies during memory-only disconnect of tip blocks
3677         if (nCheckLevel >= 3 && pindex == pindexState && (coins.DynamicMemoryUsage() + pcoinsTip->DynamicMemoryUsage()) <= nCoinCacheUsage) {
3678             bool fClean = true;
3679             if (!DisconnectBlock(block, state, pindex, coins, &fClean))
3680                 return error("VerifyDB(): *** irrecoverable inconsistency in block data at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3681             pindexState = pindex->pprev;
3682             if (!fClean) {
3683                 nGoodTransactions = 0;
3684                 pindexFailure = pindex;
3685             } else
3686                 nGoodTransactions += block.vtx.size();
3687         }
3688         if (ShutdownRequested())
3689             return true;
3690     }
3691     if (pindexFailure)
3692         return error("VerifyDB(): *** coin database inconsistencies found (last %i blocks, %i good transactions before that)\n", chainActive.Height() - pindexFailure->nHeight + 1, nGoodTransactions);
3693
3694     // check level 4: try reconnecting blocks
3695     if (nCheckLevel >= 4) {
3696         CBlockIndex *pindex = pindexState;
3697         while (pindex != chainActive.Tip()) {
3698             boost::this_thread::interruption_point();
3699             uiInterface.ShowProgress(_("Verifying blocks..."), std::max(1, std::min(99, 100 - (int)(((double)(chainActive.Height() - pindex->nHeight)) / (double)nCheckDepth * 50))));
3700             pindex = chainActive.Next(pindex);
3701             CBlock block;
3702             if (!ReadBlockFromDisk(block, pindex))
3703                 return error("VerifyDB(): *** ReadBlockFromDisk failed at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3704             if (!ConnectBlock(block, state, pindex, coins))
3705                 return error("VerifyDB(): *** found unconnectable block at %d, hash=%s", pindex->nHeight, pindex->GetBlockHash().ToString());
3706         }
3707     }
3708
3709     LogPrintf("No coin database inconsistencies in last %i blocks (%i transactions)\n", chainActive.Height() - pindexState->nHeight, nGoodTransactions);
3710
3711     return true;
3712 }
3713
3714 void UnloadBlockIndex()
3715 {
3716     LOCK(cs_main);
3717     setBlockIndexCandidates.clear();
3718     chainActive.SetTip(NULL);
3719     pindexBestInvalid = NULL;
3720     pindexBestHeader = NULL;
3721     mempool.clear();
3722     mapOrphanTransactions.clear();
3723     mapOrphanTransactionsByPrev.clear();
3724     nSyncStarted = 0;
3725     mapBlocksUnlinked.clear();
3726     vinfoBlockFile.clear();
3727     nLastBlockFile = 0;
3728     nBlockSequenceId = 1;
3729     mapBlockSource.clear();
3730     mapBlocksInFlight.clear();
3731     nQueuedValidatedHeaders = 0;
3732     nPreferredDownload = 0;
3733     setDirtyBlockIndex.clear();
3734     setDirtyFileInfo.clear();
3735     mapNodeState.clear();
3736     recentRejects.reset(NULL);
3737
3738     BOOST_FOREACH(BlockMap::value_type& entry, mapBlockIndex) {
3739         delete entry.second;
3740     }
3741     mapBlockIndex.clear();
3742     fHavePruned = false;
3743 }
3744
3745 bool LoadBlockIndex()
3746 {
3747     // Load block index from databases
3748     if (!fReindex && !LoadBlockIndexDB())
3749         return false;
3750     return true;
3751 }
3752
3753
3754 bool InitBlockIndex() {
3755     const CChainParams& chainparams = Params();
3756     LOCK(cs_main);
3757
3758     // Initialize global variables that cannot be constructed at startup.
3759     recentRejects.reset(new CRollingBloomFilter(120000, 0.000001));
3760
3761     // Check whether we're already initialized
3762     if (chainActive.Genesis() != NULL)
3763         return true;
3764
3765     // Use the provided setting for -txindex in the new database
3766     fTxIndex = GetBoolArg("-txindex", false);
3767     pblocktree->WriteFlag("txindex", fTxIndex);
3768     LogPrintf("Initializing databases...\n");
3769
3770     // Only add the genesis block if not reindexing (in which case we reuse the one already on disk)
3771     if (!fReindex) {
3772         try {
3773             CBlock &block = const_cast<CBlock&>(Params().GenesisBlock());
3774             // Start new block file
3775             unsigned int nBlockSize = ::GetSerializeSize(block, SER_DISK, CLIENT_VERSION);
3776             CDiskBlockPos blockPos;
3777             CValidationState state;
3778             if (!FindBlockPos(state, blockPos, nBlockSize+8, 0, block.GetBlockTime()))
3779                 return error("LoadBlockIndex(): FindBlockPos failed");
3780             if (!WriteBlockToDisk(block, blockPos, chainparams.MessageStart()))
3781                 return error("LoadBlockIndex(): writing genesis block to disk failed");
3782             CBlockIndex *pindex = AddToBlockIndex(block);
3783             if (!ReceivedBlockTransactions(block, state, pindex, blockPos))
3784                 return error("LoadBlockIndex(): genesis block not accepted");
3785             if (!ActivateBestChain(state, &block))
3786                 return error("LoadBlockIndex(): genesis block cannot be activated");
3787             // Force a chainstate write so that when we VerifyDB in a moment, it doesn't check stale data
3788             return FlushStateToDisk(state, FLUSH_STATE_ALWAYS);
3789         } catch (const std::runtime_error& e) {
3790             return error("LoadBlockIndex(): failed to initialize block database: %s", e.what());
3791         }
3792     }
3793
3794     return true;
3795 }
3796
3797
3798
3799 bool LoadExternalBlockFile(FILE* fileIn, CDiskBlockPos *dbp)
3800 {
3801     const CChainParams& chainparams = Params();
3802     // Map of disk positions for blocks with unknown parent (only used for reindex)
3803     static std::multimap<uint256, CDiskBlockPos> mapBlocksUnknownParent;
3804     int64_t nStart = GetTimeMillis();
3805
3806     int nLoaded = 0;
3807     try {
3808         // This takes over fileIn and calls fclose() on it in the CBufferedFile destructor
3809         CBufferedFile blkdat(fileIn, 2*MAX_BLOCK_SIZE, MAX_BLOCK_SIZE+8, SER_DISK, CLIENT_VERSION);
3810         uint64_t nRewind = blkdat.GetPos();
3811         while (!blkdat.eof()) {
3812             boost::this_thread::interruption_point();
3813
3814             blkdat.SetPos(nRewind);
3815             nRewind++; // start one byte further next time, in case of failure
3816             blkdat.SetLimit(); // remove former limit
3817             unsigned int nSize = 0;
3818             try {
3819                 // locate a header
3820                 unsigned char buf[MESSAGE_START_SIZE];
3821                 blkdat.FindByte(Params().MessageStart()[0]);
3822                 nRewind = blkdat.GetPos()+1;
3823                 blkdat >> FLATDATA(buf);
3824                 if (memcmp(buf, Params().MessageStart(), MESSAGE_START_SIZE))
3825                     continue;
3826                 // read size
3827                 blkdat >> nSize;
3828                 if (nSize < 80 || nSize > MAX_BLOCK_SIZE)
3829                     continue;
3830             } catch (const std::exception&) {
3831                 // no valid block header found; don't complain
3832                 break;
3833             }
3834             try {
3835                 // read block
3836                 uint64_t nBlockPos = blkdat.GetPos();
3837                 if (dbp)
3838                     dbp->nPos = nBlockPos;
3839                 blkdat.SetLimit(nBlockPos + nSize);
3840                 blkdat.SetPos(nBlockPos);
3841                 CBlock block;
3842                 blkdat >> block;
3843                 nRewind = blkdat.GetPos();
3844
3845                 // detect out of order blocks, and store them for later
3846                 uint256 hash = block.GetHash();
3847                 if (hash != chainparams.GetConsensus().hashGenesisBlock && mapBlockIndex.find(block.hashPrevBlock) == mapBlockIndex.end()) {
3848                     LogPrint("reindex", "%s: Out of order block %s, parent %s not known\n", __func__, hash.ToString(),
3849                             block.hashPrevBlock.ToString());
3850                     if (dbp)
3851                         mapBlocksUnknownParent.insert(std::make_pair(block.hashPrevBlock, *dbp));
3852                     continue;
3853                 }
3854
3855                 // process in case the block isn't known yet
3856                 if (mapBlockIndex.count(hash) == 0 || (mapBlockIndex[hash]->nStatus & BLOCK_HAVE_DATA) == 0) {
3857                     CValidationState state;
3858                     if (ProcessNewBlock(state, NULL, &block, true, dbp))
3859                         nLoaded++;
3860                     if (state.IsError())
3861                         break;
3862                 } else if (hash != chainparams.GetConsensus().hashGenesisBlock && mapBlockIndex[hash]->nHeight % 1000 == 0) {
3863                     LogPrintf("Block Import: already had block %s at height %d\n", hash.ToString(), mapBlockIndex[hash]->nHeight);
3864                 }
3865
3866                 // Recursively process earlier encountered successors of this block
3867                 deque<uint256> queue;
3868                 queue.push_back(hash);
3869                 while (!queue.empty()) {
3870                     uint256 head = queue.front();
3871                     queue.pop_front();
3872                     std::pair<std::multimap<uint256, CDiskBlockPos>::iterator, std::multimap<uint256, CDiskBlockPos>::iterator> range = mapBlocksUnknownParent.equal_range(head);
3873                     while (range.first != range.second) {
3874                         std::multimap<uint256, CDiskBlockPos>::iterator it = range.first;
3875                         if (ReadBlockFromDisk(block, it->second))
3876                         {
3877                             LogPrintf("%s: Processing out of order child %s of %s\n", __func__, block.GetHash().ToString(),
3878                                     head.ToString());
3879                             CValidationState dummy;
3880                             if (ProcessNewBlock(dummy, NULL, &block, true, &it->second))
3881                             {
3882                                 nLoaded++;
3883                                 queue.push_back(block.GetHash());
3884                             }
3885                         }
3886                         range.first++;
3887                         mapBlocksUnknownParent.erase(it);
3888                     }
3889                 }
3890             } catch (const std::exception& e) {
3891                 LogPrintf("%s: Deserialize or I/O error - %s\n", __func__, e.what());
3892             }
3893         }
3894     } catch (const std::runtime_error& e) {
3895         AbortNode(std::string("System error: ") + e.what());
3896     }
3897     if (nLoaded > 0)
3898         LogPrintf("Loaded %i blocks from external file in %dms\n", nLoaded, GetTimeMillis() - nStart);
3899     return nLoaded > 0;
3900 }
3901
3902 void static CheckBlockIndex()
3903 {
3904     const Consensus::Params& consensusParams = Params().GetConsensus();
3905     if (!fCheckBlockIndex) {
3906         return;
3907     }
3908
3909     LOCK(cs_main);
3910
3911     // During a reindex, we read the genesis block and call CheckBlockIndex before ActivateBestChain,
3912     // so we have the genesis block in mapBlockIndex but no active chain.  (A few of the tests when
3913     // iterating the block tree require that chainActive has been initialized.)
3914     if (chainActive.Height() < 0) {
3915         assert(mapBlockIndex.size() <= 1);
3916         return;
3917     }
3918
3919     // Build forward-pointing map of the entire block tree.
3920     std::multimap<CBlockIndex*,CBlockIndex*> forward;
3921     for (BlockMap::iterator it = mapBlockIndex.begin(); it != mapBlockIndex.end(); it++) {
3922         forward.insert(std::make_pair(it->second->pprev, it->second));
3923     }
3924
3925     assert(forward.size() == mapBlockIndex.size());
3926
3927     std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangeGenesis = forward.equal_range(NULL);
3928     CBlockIndex *pindex = rangeGenesis.first->second;
3929     rangeGenesis.first++;
3930     assert(rangeGenesis.first == rangeGenesis.second); // There is only one index entry with parent NULL.
3931
3932     // Iterate over the entire block tree, using depth-first search.
3933     // Along the way, remember whether there are blocks on the path from genesis
3934     // block being explored which are the first to have certain properties.
3935     size_t nNodes = 0;
3936     int nHeight = 0;
3937     CBlockIndex* pindexFirstInvalid = NULL; // Oldest ancestor of pindex which is invalid.
3938     CBlockIndex* pindexFirstMissing = NULL; // Oldest ancestor of pindex which does not have BLOCK_HAVE_DATA.
3939     CBlockIndex* pindexFirstNeverProcessed = NULL; // Oldest ancestor of pindex for which nTx == 0.
3940     CBlockIndex* pindexFirstNotTreeValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_TREE (regardless of being valid or not).
3941     CBlockIndex* pindexFirstNotTransactionsValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_TRANSACTIONS (regardless of being valid or not).
3942     CBlockIndex* pindexFirstNotChainValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_CHAIN (regardless of being valid or not).
3943     CBlockIndex* pindexFirstNotScriptsValid = NULL; // Oldest ancestor of pindex which does not have BLOCK_VALID_SCRIPTS (regardless of being valid or not).
3944     while (pindex != NULL) {
3945         nNodes++;
3946         if (pindexFirstInvalid == NULL && pindex->nStatus & BLOCK_FAILED_VALID) pindexFirstInvalid = pindex;
3947         if (pindexFirstMissing == NULL && !(pindex->nStatus & BLOCK_HAVE_DATA)) pindexFirstMissing = pindex;
3948         if (pindexFirstNeverProcessed == NULL && pindex->nTx == 0) pindexFirstNeverProcessed = pindex;
3949         if (pindex->pprev != NULL && pindexFirstNotTreeValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_TREE) pindexFirstNotTreeValid = pindex;
3950         if (pindex->pprev != NULL && pindexFirstNotTransactionsValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_TRANSACTIONS) pindexFirstNotTransactionsValid = pindex;
3951         if (pindex->pprev != NULL && pindexFirstNotChainValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_CHAIN) pindexFirstNotChainValid = pindex;
3952         if (pindex->pprev != NULL && pindexFirstNotScriptsValid == NULL && (pindex->nStatus & BLOCK_VALID_MASK) < BLOCK_VALID_SCRIPTS) pindexFirstNotScriptsValid = pindex;
3953
3954         // Begin: actual consistency checks.
3955         if (pindex->pprev == NULL) {
3956             // Genesis block checks.
3957             assert(pindex->GetBlockHash() == consensusParams.hashGenesisBlock); // Genesis block's hash must match.
3958             assert(pindex == chainActive.Genesis()); // The current active chain's genesis block must be this block.
3959         }
3960         if (pindex->nChainTx == 0) assert(pindex->nSequenceId == 0);  // nSequenceId can't be set for blocks that aren't linked
3961         // VALID_TRANSACTIONS is equivalent to nTx > 0 for all nodes (whether or not pruning has occurred).
3962         // HAVE_DATA is only equivalent to nTx > 0 (or VALID_TRANSACTIONS) if no pruning has occurred.
3963         if (!fHavePruned) {
3964             // If we've never pruned, then HAVE_DATA should be equivalent to nTx > 0
3965             assert(!(pindex->nStatus & BLOCK_HAVE_DATA) == (pindex->nTx == 0));
3966             assert(pindexFirstMissing == pindexFirstNeverProcessed);
3967         } else {
3968             // If we have pruned, then we can only say that HAVE_DATA implies nTx > 0
3969             if (pindex->nStatus & BLOCK_HAVE_DATA) assert(pindex->nTx > 0);
3970         }
3971         if (pindex->nStatus & BLOCK_HAVE_UNDO) assert(pindex->nStatus & BLOCK_HAVE_DATA);
3972         assert(((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_TRANSACTIONS) == (pindex->nTx > 0)); // This is pruning-independent.
3973         // All parents having had data (at some point) is equivalent to all parents being VALID_TRANSACTIONS, which is equivalent to nChainTx being set.
3974         assert((pindexFirstNeverProcessed != NULL) == (pindex->nChainTx == 0)); // nChainTx != 0 is used to signal that all parent blocks have been processed (but may have been pruned).
3975         assert((pindexFirstNotTransactionsValid != NULL) == (pindex->nChainTx == 0));
3976         assert(pindex->nHeight == nHeight); // nHeight must be consistent.
3977         assert(pindex->pprev == NULL || pindex->nChainWork >= pindex->pprev->nChainWork); // For every block except the genesis block, the chainwork must be larger than the parent's.
3978         assert(nHeight < 2 || (pindex->pskip && (pindex->pskip->nHeight < nHeight))); // The pskip pointer must point back for all but the first 2 blocks.
3979         assert(pindexFirstNotTreeValid == NULL); // All mapBlockIndex entries must at least be TREE valid
3980         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_TREE) assert(pindexFirstNotTreeValid == NULL); // TREE valid implies all parents are TREE valid
3981         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_CHAIN) assert(pindexFirstNotChainValid == NULL); // CHAIN valid implies all parents are CHAIN valid
3982         if ((pindex->nStatus & BLOCK_VALID_MASK) >= BLOCK_VALID_SCRIPTS) assert(pindexFirstNotScriptsValid == NULL); // SCRIPTS valid implies all parents are SCRIPTS valid
3983         if (pindexFirstInvalid == NULL) {
3984             // Checks for not-invalid blocks.
3985             assert((pindex->nStatus & BLOCK_FAILED_MASK) == 0); // The failed mask cannot be set for blocks without invalid parents.
3986         }
3987         if (!CBlockIndexWorkComparator()(pindex, chainActive.Tip()) && pindexFirstNeverProcessed == NULL) {
3988             if (pindexFirstInvalid == NULL) {
3989                 // If this block sorts at least as good as the current tip and
3990                 // is valid and we have all data for its parents, it must be in
3991                 // setBlockIndexCandidates.  chainActive.Tip() must also be there
3992                 // even if some data has been pruned.
3993                 if (pindexFirstMissing == NULL || pindex == chainActive.Tip()) {
3994                     assert(setBlockIndexCandidates.count(pindex));
3995                 }
3996                 // If some parent is missing, then it could be that this block was in
3997                 // setBlockIndexCandidates but had to be removed because of the missing data.
3998                 // In this case it must be in mapBlocksUnlinked -- see test below.
3999             }
4000         } else { // If this block sorts worse than the current tip or some ancestor's block has never been seen, it cannot be in setBlockIndexCandidates.
4001             assert(setBlockIndexCandidates.count(pindex) == 0);
4002         }
4003         // Check whether this block is in mapBlocksUnlinked.
4004         std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangeUnlinked = mapBlocksUnlinked.equal_range(pindex->pprev);
4005         bool foundInUnlinked = false;
4006         while (rangeUnlinked.first != rangeUnlinked.second) {
4007             assert(rangeUnlinked.first->first == pindex->pprev);
4008             if (rangeUnlinked.first->second == pindex) {
4009                 foundInUnlinked = true;
4010                 break;
4011             }
4012             rangeUnlinked.first++;
4013         }
4014         if (pindex->pprev && (pindex->nStatus & BLOCK_HAVE_DATA) && pindexFirstNeverProcessed != NULL && pindexFirstInvalid == NULL) {
4015             // If this block has block data available, some parent was never received, and has no invalid parents, it must be in mapBlocksUnlinked.
4016             assert(foundInUnlinked);
4017         }
4018         if (!(pindex->nStatus & BLOCK_HAVE_DATA)) assert(!foundInUnlinked); // Can't be in mapBlocksUnlinked if we don't HAVE_DATA
4019         if (pindexFirstMissing == NULL) assert(!foundInUnlinked); // We aren't missing data for any parent -- cannot be in mapBlocksUnlinked.
4020         if (pindex->pprev && (pindex->nStatus & BLOCK_HAVE_DATA) && pindexFirstNeverProcessed == NULL && pindexFirstMissing != NULL) {
4021             // We HAVE_DATA for this block, have received data for all parents at some point, but we're currently missing data for some parent.
4022             assert(fHavePruned); // We must have pruned.
4023             // This block may have entered mapBlocksUnlinked if:
4024             //  - it has a descendant that at some point had more work than the
4025             //    tip, and
4026             //  - we tried switching to that descendant but were missing
4027             //    data for some intermediate block between chainActive and the
4028             //    tip.
4029             // So if this block is itself better than chainActive.Tip() and it wasn't in
4030             // setBlockIndexCandidates, then it must be in mapBlocksUnlinked.
4031             if (!CBlockIndexWorkComparator()(pindex, chainActive.Tip()) && setBlockIndexCandidates.count(pindex) == 0) {
4032                 if (pindexFirstInvalid == NULL) {
4033                     assert(foundInUnlinked);
4034                 }
4035             }
4036         }
4037         // assert(pindex->GetBlockHash() == pindex->GetBlockHeader().GetHash()); // Perhaps too slow
4038         // End: actual consistency checks.
4039
4040         // Try descending into the first subnode.
4041         std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> range = forward.equal_range(pindex);
4042         if (range.first != range.second) {
4043             // A subnode was found.
4044             pindex = range.first->second;
4045             nHeight++;
4046             continue;
4047         }
4048         // This is a leaf node.
4049         // Move upwards until we reach a node of which we have not yet visited the last child.
4050         while (pindex) {
4051             // We are going to either move to a parent or a sibling of pindex.
4052             // If pindex was the first with a certain property, unset the corresponding variable.
4053             if (pindex == pindexFirstInvalid) pindexFirstInvalid = NULL;
4054             if (pindex == pindexFirstMissing) pindexFirstMissing = NULL;
4055             if (pindex == pindexFirstNeverProcessed) pindexFirstNeverProcessed = NULL;
4056             if (pindex == pindexFirstNotTreeValid) pindexFirstNotTreeValid = NULL;
4057             if (pindex == pindexFirstNotTransactionsValid) pindexFirstNotTransactionsValid = NULL;
4058             if (pindex == pindexFirstNotChainValid) pindexFirstNotChainValid = NULL;
4059             if (pindex == pindexFirstNotScriptsValid) pindexFirstNotScriptsValid = NULL;
4060             // Find our parent.
4061             CBlockIndex* pindexPar = pindex->pprev;
4062             // Find which child we just visited.
4063             std::pair<std::multimap<CBlockIndex*,CBlockIndex*>::iterator,std::multimap<CBlockIndex*,CBlockIndex*>::iterator> rangePar = forward.equal_range(pindexPar);
4064             while (rangePar.first->second != pindex) {
4065                 assert(rangePar.first != rangePar.second); // Our parent must have at least the node we're coming from as child.
4066                 rangePar.first++;
4067             }
4068             // Proceed to the next one.
4069             rangePar.first++;
4070             if (rangePar.first != rangePar.second) {
4071                 // Move to the sibling.
4072                 pindex = rangePar.first->second;
4073                 break;
4074             } else {
4075                 // Move up further.
4076                 pindex = pindexPar;
4077                 nHeight--;
4078                 continue;
4079             }
4080         }
4081     }
4082
4083     // Check that we actually traversed the entire map.
4084     assert(nNodes == forward.size());
4085 }
4086
4087 //////////////////////////////////////////////////////////////////////////////
4088 //
4089 // CAlert
4090 //
4091
4092 std::string GetWarnings(const std::string& strFor)
4093 {
4094     int nPriority = 0;
4095     string strStatusBar;
4096     string strRPC;
4097
4098     if (!CLIENT_VERSION_IS_RELEASE)
4099         strStatusBar = _("This is a pre-release test build - use at your own risk - do not use for mining or merchant applications");
4100
4101     if (GetBoolArg("-testsafemode", false))
4102         strStatusBar = strRPC = "testsafemode enabled";
4103
4104     // Misc warnings like out of disk space and clock is wrong
4105     if (strMiscWarning != "")
4106     {
4107         nPriority = 1000;
4108         strStatusBar = strMiscWarning;
4109     }
4110
4111     if (fLargeWorkForkFound)
4112     {
4113         nPriority = 2000;
4114         strStatusBar = strRPC = _("Warning: The network does not appear to fully agree! Some miners appear to be experiencing issues.");
4115     }
4116     else if (fLargeWorkInvalidChainFound)
4117     {
4118         nPriority = 2000;
4119         strStatusBar = strRPC = _("Warning: We do not appear to fully agree with our peers! You may need to upgrade, or other nodes may need to upgrade.");
4120     }
4121
4122     // Alerts
4123     {
4124         LOCK(cs_mapAlerts);
4125         BOOST_FOREACH(PAIRTYPE(const uint256, CAlert)& item, mapAlerts)
4126         {
4127             const CAlert& alert = item.second;
4128             if (alert.AppliesToMe() && alert.nPriority > nPriority)
4129             {
4130                 nPriority = alert.nPriority;
4131                 strStatusBar = alert.strStatusBar;
4132                 if (alert.nPriority >= ALERT_PRIORITY_SAFE_MODE) {
4133                     strRPC = alert.strRPCError;
4134                 }
4135             }
4136         }
4137     }
4138
4139     if (strFor == "statusbar")
4140         return strStatusBar;
4141     else if (strFor == "rpc")
4142         return strRPC;
4143     assert(!"GetWarnings(): invalid parameter");
4144     return "error";
4145 }
4146
4147
4148
4149
4150
4151
4152
4153
4154 //////////////////////////////////////////////////////////////////////////////
4155 //
4156 // Messages
4157 //
4158
4159
4160 bool static AlreadyHave(const CInv& inv) EXCLUSIVE_LOCKS_REQUIRED(cs_main)
4161 {
4162     switch (inv.type)
4163     {
4164     case MSG_TX:
4165         {
4166             assert(recentRejects);
4167             if (chainActive.Tip()->GetBlockHash() != hashRecentRejectsChainTip)
4168             {
4169                 // If the chain tip has changed previously rejected transactions
4170                 // might be now valid, e.g. due to a nLockTime'd tx becoming valid,
4171                 // or a double-spend. Reset the rejects filter and give those
4172                 // txs a second chance.
4173                 hashRecentRejectsChainTip = chainActive.Tip()->GetBlockHash();
4174                 recentRejects->reset();
4175             }
4176
4177             return recentRejects->contains(inv.hash) ||
4178                    mempool.exists(inv.hash) ||
4179                    mapOrphanTransactions.count(inv.hash) ||
4180                    pcoinsTip->HaveCoins(inv.hash);
4181         }
4182     case MSG_BLOCK:
4183         return mapBlockIndex.count(inv.hash);
4184     }
4185     // Don't know what it is, just say we already got one
4186     return true;
4187 }
4188
4189 void static ProcessGetData(CNode* pfrom)
4190 {
4191     std::deque<CInv>::iterator it = pfrom->vRecvGetData.begin();
4192
4193     vector<CInv> vNotFound;
4194
4195     LOCK(cs_main);
4196
4197     while (it != pfrom->vRecvGetData.end()) {
4198         // Don't bother if send buffer is too full to respond anyway
4199         if (pfrom->nSendSize >= SendBufferSize())
4200             break;
4201
4202         const CInv &inv = *it;
4203         {
4204             boost::this_thread::interruption_point();
4205             it++;
4206
4207             if (inv.type == MSG_BLOCK || inv.type == MSG_FILTERED_BLOCK)
4208             {
4209                 bool send = false;
4210                 BlockMap::iterator mi = mapBlockIndex.find(inv.hash);
4211                 if (mi != mapBlockIndex.end())
4212                 {
4213                     if (chainActive.Contains(mi->second)) {
4214                         send = true;
4215                     } else {
4216                         static const int nOneMonth = 30 * 24 * 60 * 60;
4217                         // To prevent fingerprinting attacks, only send blocks outside of the active
4218                         // chain if they are valid, and no more than a month older (both in time, and in
4219                         // best equivalent proof of work) than the best header chain we know about.
4220                         send = mi->second->IsValid(BLOCK_VALID_SCRIPTS) && (pindexBestHeader != NULL) &&
4221                             (pindexBestHeader->GetBlockTime() - mi->second->GetBlockTime() < nOneMonth) &&
4222                             (GetBlockProofEquivalentTime(*pindexBestHeader, *mi->second, *pindexBestHeader, Params().GetConsensus()) < nOneMonth);
4223                         if (!send) {
4224                             LogPrintf("%s: ignoring request from peer=%i for old block that isn't in the main chain\n", __func__, pfrom->GetId());
4225                         }
4226                     }
4227                 }
4228                 // Pruned nodes may have deleted the block, so check whether
4229                 // it's available before trying to send.
4230                 if (send && (mi->second->nStatus & BLOCK_HAVE_DATA))
4231                 {
4232                     // Send block from disk
4233                     CBlock block;
4234                     if (!ReadBlockFromDisk(block, (*mi).second))
4235                         assert(!"cannot load block from disk");
4236                     if (inv.type == MSG_BLOCK)
4237                         pfrom->PushMessage("block", block);
4238                     else // MSG_FILTERED_BLOCK)
4239                     {
4240                         LOCK(pfrom->cs_filter);
4241                         if (pfrom->pfilter)
4242                         {
4243                             CMerkleBlock merkleBlock(block, *pfrom->pfilter);
4244                             pfrom->PushMessage("merkleblock", merkleBlock);
4245                             // CMerkleBlock just contains hashes, so also push any transactions in the block the client did not see
4246                             // This avoids hurting performance by pointlessly requiring a round-trip
4247                             // Note that there is currently no way for a node to request any single transactions we didn't send here -
4248                             // they must either disconnect and retry or request the full block.
4249                             // Thus, the protocol spec specified allows for us to provide duplicate txn here,
4250                             // however we MUST always provide at least what the remote peer needs
4251                             typedef std::pair<unsigned int, uint256> PairType;
4252                             BOOST_FOREACH(PairType& pair, merkleBlock.vMatchedTxn)
4253                                 if (!pfrom->setInventoryKnown.count(CInv(MSG_TX, pair.second)))
4254                                     pfrom->PushMessage("tx", block.vtx[pair.first]);
4255                         }
4256                         // else
4257                             // no response
4258                     }
4259
4260                     // Trigger the peer node to send a getblocks request for the next batch of inventory
4261                     if (inv.hash == pfrom->hashContinue)
4262                     {
4263                         // Bypass PushInventory, this must send even if redundant,
4264                         // and we want it right after the last block so they don't
4265                         // wait for other stuff first.
4266                         vector<CInv> vInv;
4267                         vInv.push_back(CInv(MSG_BLOCK, chainActive.Tip()->GetBlockHash()));
4268                         pfrom->PushMessage("inv", vInv);
4269                         pfrom->hashContinue.SetNull();
4270                     }
4271                 }
4272             }
4273             else if (inv.IsKnownType())
4274             {
4275                 // Send stream from relay memory
4276                 bool pushed = false;
4277                 {
4278                     LOCK(cs_mapRelay);
4279                     map<CInv, CDataStream>::iterator mi = mapRelay.find(inv);
4280                     if (mi != mapRelay.end()) {
4281                         pfrom->PushMessage(inv.GetCommand(), (*mi).second);
4282                         pushed = true;
4283                     }
4284                 }
4285                 if (!pushed && inv.type == MSG_TX) {
4286                     CTransaction tx;
4287                     if (mempool.lookup(inv.hash, tx)) {
4288                         CDataStream ss(SER_NETWORK, PROTOCOL_VERSION);
4289                         ss.reserve(1000);
4290                         ss << tx;
4291                         pfrom->PushMessage("tx", ss);
4292                         pushed = true;
4293                     }
4294                 }
4295                 if (!pushed) {
4296                     vNotFound.push_back(inv);
4297                 }
4298             }
4299
4300             // Track requests for our stuff.
4301             GetMainSignals().Inventory(inv.hash);
4302
4303             if (inv.type == MSG_BLOCK || inv.type == MSG_FILTERED_BLOCK)
4304                 break;
4305         }
4306     }
4307
4308     pfrom->vRecvGetData.erase(pfrom->vRecvGetData.begin(), it);
4309
4310     if (!vNotFound.empty()) {
4311         // Let the peer know that we didn't find what it asked for, so it doesn't
4312         // have to wait around forever. Currently only SPV clients actually care
4313         // about this message: it's needed when they are recursively walking the
4314         // dependencies of relevant unconfirmed transactions. SPV clients want to
4315         // do that because they want to know about (and store and rebroadcast and
4316         // risk analyze) the dependencies of transactions relevant to them, without
4317         // having to download the entire memory pool.
4318         pfrom->PushMessage("notfound", vNotFound);
4319     }
4320 }
4321
4322 bool static ProcessMessage(CNode* pfrom, string strCommand, CDataStream& vRecv, int64_t nTimeReceived)
4323 {
4324     const CChainParams& chainparams = Params();
4325     LogPrint("net", "received: %s (%u bytes) peer=%d\n", SanitizeString(strCommand), vRecv.size(), pfrom->id);
4326     if (mapArgs.count("-dropmessagestest") && GetRand(atoi(mapArgs["-dropmessagestest"])) == 0)
4327     {
4328         LogPrintf("dropmessagestest DROPPING RECV MESSAGE\n");
4329         return true;
4330     }
4331
4332
4333
4334
4335     if (strCommand == "version")
4336     {
4337         // Each connection can only send one version message
4338         if (pfrom->nVersion != 0)
4339         {
4340             pfrom->PushMessage("reject", strCommand, REJECT_DUPLICATE, string("Duplicate version message"));
4341             Misbehaving(pfrom->GetId(), 1);
4342             return false;
4343         }
4344
4345         int64_t nTime;
4346         CAddress addrMe;
4347         CAddress addrFrom;
4348         uint64_t nNonce = 1;
4349         vRecv >> pfrom->nVersion >> pfrom->nServices >> nTime >> addrMe;
4350         if (pfrom->nVersion < MIN_PEER_PROTO_VERSION)
4351         {
4352             // disconnect from peers older than this proto version
4353             LogPrintf("peer=%d using obsolete version %i; disconnecting\n", pfrom->id, pfrom->nVersion);
4354             pfrom->PushMessage("reject", strCommand, REJECT_OBSOLETE,
4355                                strprintf("Version must be %d or greater", MIN_PEER_PROTO_VERSION));
4356             pfrom->fDisconnect = true;
4357             return false;
4358         }
4359
4360         if (pfrom->nVersion == 10300)
4361             pfrom->nVersion = 300;
4362         if (!vRecv.empty())
4363             vRecv >> addrFrom >> nNonce;
4364         if (!vRecv.empty()) {
4365             vRecv >> LIMITED_STRING(pfrom->strSubVer, 256);
4366             pfrom->cleanSubVer = SanitizeString(pfrom->strSubVer);
4367         }
4368         if (!vRecv.empty())
4369             vRecv >> pfrom->nStartingHeight;
4370         if (!vRecv.empty())
4371             vRecv >> pfrom->fRelayTxes; // set to true after we get the first filter* message
4372         else
4373             pfrom->fRelayTxes = true;
4374
4375         // Disconnect if we connected to ourself
4376         if (nNonce == nLocalHostNonce && nNonce > 1)
4377         {
4378             LogPrintf("connected to self at %s, disconnecting\n", pfrom->addr.ToString());
4379             pfrom->fDisconnect = true;
4380             return true;
4381         }
4382
4383         pfrom->addrLocal = addrMe;
4384         if (pfrom->fInbound && addrMe.IsRoutable())
4385         {
4386             SeenLocal(addrMe);
4387         }
4388
4389         // Be shy and don't send version until we hear
4390         if (pfrom->fInbound)
4391             pfrom->PushVersion();
4392
4393         pfrom->fClient = !(pfrom->nServices & NODE_NETWORK);
4394
4395         // Potentially mark this peer as a preferred download peer.
4396         UpdatePreferredDownload(pfrom, State(pfrom->GetId()));
4397
4398         // Change version
4399         pfrom->PushMessage("verack");
4400         pfrom->ssSend.SetVersion(min(pfrom->nVersion, PROTOCOL_VERSION));
4401
4402         if (!pfrom->fInbound)
4403         {
4404             // Advertise our address
4405             if (fListen && !IsInitialBlockDownload())
4406             {
4407                 CAddress addr = GetLocalAddress(&pfrom->addr);
4408                 if (addr.IsRoutable())
4409                 {
4410                     LogPrintf("ProcessMessages: advertizing address %s\n", addr.ToString());
4411                     pfrom->PushAddress(addr);
4412                 } else if (IsPeerAddrLocalGood(pfrom)) {
4413                     addr.SetIP(pfrom->addrLocal);
4414                     LogPrintf("ProcessMessages: advertizing address %s\n", addr.ToString());
4415                     pfrom->PushAddress(addr);
4416                 }
4417             }
4418
4419             // Get recent addresses
4420             if (pfrom->fOneShot || pfrom->nVersion >= CADDR_TIME_VERSION || addrman.size() < 1000)
4421             {
4422                 pfrom->PushMessage("getaddr");
4423                 pfrom->fGetAddr = true;
4424             }
4425             addrman.Good(pfrom->addr);
4426         } else {
4427             if (((CNetAddr)pfrom->addr) == (CNetAddr)addrFrom)
4428             {
4429                 addrman.Add(addrFrom, addrFrom);
4430                 addrman.Good(addrFrom);
4431             }
4432         }
4433
4434         // Relay alerts
4435         {
4436             LOCK(cs_mapAlerts);
4437             BOOST_FOREACH(PAIRTYPE(const uint256, CAlert)& item, mapAlerts)
4438                 item.second.RelayTo(pfrom);
4439         }
4440
4441         pfrom->fSuccessfullyConnected = true;
4442
4443         string remoteAddr;
4444         if (fLogIPs)
4445             remoteAddr = ", peeraddr=" + pfrom->addr.ToString();
4446
4447         LogPrintf("receive version message: %s: version %d, blocks=%d, us=%s, peer=%d%s\n",
4448                   pfrom->cleanSubVer, pfrom->nVersion,
4449                   pfrom->nStartingHeight, addrMe.ToString(), pfrom->id,
4450                   remoteAddr);
4451
4452         int64_t nTimeOffset = nTime - GetTime();
4453         pfrom->nTimeOffset = nTimeOffset;
4454         AddTimeData(pfrom->addr, nTimeOffset);
4455     }
4456
4457
4458     else if (pfrom->nVersion == 0)
4459     {
4460         // Must have a version message before anything else
4461         Misbehaving(pfrom->GetId(), 1);
4462         return false;
4463     }
4464
4465
4466     else if (strCommand == "verack")
4467     {
4468         pfrom->SetRecvVersion(min(pfrom->nVersion, PROTOCOL_VERSION));
4469
4470         // Mark this node as currently connected, so we update its timestamp later.
4471         if (pfrom->fNetworkNode) {
4472             LOCK(cs_main);
4473             State(pfrom->GetId())->fCurrentlyConnected = true;
4474         }
4475     }
4476
4477
4478     else if (strCommand == "addr")
4479     {
4480         vector<CAddress> vAddr;
4481         vRecv >> vAddr;
4482
4483         // Don't want addr from older versions unless seeding
4484         if (pfrom->nVersion < CADDR_TIME_VERSION && addrman.size() > 1000)
4485             return true;
4486         if (vAddr.size() > 1000)
4487         {
4488             Misbehaving(pfrom->GetId(), 20);
4489             return error("message addr size() = %u", vAddr.size());
4490         }
4491
4492         // Store the new addresses
4493         vector<CAddress> vAddrOk;
4494         int64_t nNow = GetAdjustedTime();
4495         int64_t nSince = nNow - 10 * 60;
4496         BOOST_FOREACH(CAddress& addr, vAddr)
4497         {
4498             boost::this_thread::interruption_point();
4499
4500             if (addr.nTime <= 100000000 || addr.nTime > nNow + 10 * 60)
4501                 addr.nTime = nNow - 5 * 24 * 60 * 60;
4502             pfrom->AddAddressKnown(addr);
4503             bool fReachable = IsReachable(addr);
4504             if (addr.nTime > nSince && !pfrom->fGetAddr && vAddr.size() <= 10 && addr.IsRoutable())
4505             {
4506                 // Relay to a limited number of other nodes
4507                 {
4508                     LOCK(cs_vNodes);
4509                     // Use deterministic randomness to send to the same nodes for 24 hours
4510                     // at a time so the addrKnowns of the chosen nodes prevent repeats
4511                     static uint256 hashSalt;
4512                     if (hashSalt.IsNull())
4513                         hashSalt = GetRandHash();
4514                     uint64_t hashAddr = addr.GetHash();
4515                     uint256 hashRand = ArithToUint256(UintToArith256(hashSalt) ^ (hashAddr<<32) ^ ((GetTime()+hashAddr)/(24*60*60)));
4516                     hashRand = Hash(BEGIN(hashRand), END(hashRand));
4517                     multimap<uint256, CNode*> mapMix;
4518                     BOOST_FOREACH(CNode* pnode, vNodes)
4519                     {
4520                         if (pnode->nVersion < CADDR_TIME_VERSION)
4521                             continue;
4522                         unsigned int nPointer;
4523                         memcpy(&nPointer, &pnode, sizeof(nPointer));
4524                         uint256 hashKey = ArithToUint256(UintToArith256(hashRand) ^ nPointer);
4525                         hashKey = Hash(BEGIN(hashKey), END(hashKey));
4526                         mapMix.insert(make_pair(hashKey, pnode));
4527                     }
4528                     int nRelayNodes = fReachable ? 2 : 1; // limited relaying of addresses outside our network(s)
4529                     for (multimap<uint256, CNode*>::iterator mi = mapMix.begin(); mi != mapMix.end() && nRelayNodes-- > 0; ++mi)
4530                         ((*mi).second)->PushAddress(addr);
4531                 }
4532             }
4533             // Do not store addresses outside our network
4534             if (fReachable)
4535                 vAddrOk.push_back(addr);
4536         }
4537         addrman.Add(vAddrOk, pfrom->addr, 2 * 60 * 60);
4538         if (vAddr.size() < 1000)
4539             pfrom->fGetAddr = false;
4540         if (pfrom->fOneShot)
4541             pfrom->fDisconnect = true;
4542     }
4543
4544
4545     else if (strCommand == "inv")
4546     {
4547         vector<CInv> vInv;
4548         vRecv >> vInv;
4549         if (vInv.size() > MAX_INV_SZ)
4550         {
4551             Misbehaving(pfrom->GetId(), 20);
4552             return error("message inv size() = %u", vInv.size());
4553         }
4554
4555         LOCK(cs_main);
4556
4557         std::vector<CInv> vToFetch;
4558
4559         for (unsigned int nInv = 0; nInv < vInv.size(); nInv++)
4560         {
4561             const CInv &inv = vInv[nInv];
4562
4563             boost::this_thread::interruption_point();
4564             pfrom->AddInventoryKnown(inv);
4565
4566             bool fAlreadyHave = AlreadyHave(inv);
4567             LogPrint("net", "got inv: %s  %s peer=%d\n", inv.ToString(), fAlreadyHave ? "have" : "new", pfrom->id);
4568
4569             if (!fAlreadyHave && !fImporting && !fReindex && inv.type != MSG_BLOCK)
4570                 pfrom->AskFor(inv);
4571
4572             if (inv.type == MSG_BLOCK) {
4573                 UpdateBlockAvailability(pfrom->GetId(), inv.hash);
4574                 if (!fAlreadyHave && !fImporting && !fReindex && !mapBlocksInFlight.count(inv.hash)) {
4575                     // First request the headers preceding the announced block. In the normal fully-synced
4576                     // case where a new block is announced that succeeds the current tip (no reorganization),
4577                     // there are no such headers.
4578                     // Secondly, and only when we are close to being synced, we request the announced block directly,
4579                     // to avoid an extra round-trip. Note that we must *first* ask for the headers, so by the
4580                     // time the block arrives, the header chain leading up to it is already validated. Not
4581                     // doing this will result in the received block being rejected as an orphan in case it is
4582                     // not a direct successor.
4583                     pfrom->PushMessage("getheaders", chainActive.GetLocator(pindexBestHeader), inv.hash);
4584                     CNodeState *nodestate = State(pfrom->GetId());
4585                     if (chainActive.Tip()->GetBlockTime() > GetAdjustedTime() - chainparams.GetConsensus().nPowTargetSpacing * 20 &&
4586                         nodestate->nBlocksInFlight < MAX_BLOCKS_IN_TRANSIT_PER_PEER) {
4587                         vToFetch.push_back(inv);
4588                         // Mark block as in flight already, even though the actual "getdata" message only goes out
4589                         // later (within the same cs_main lock, though).
4590                         MarkBlockAsInFlight(pfrom->GetId(), inv.hash, chainparams.GetConsensus());
4591                     }
4592                     LogPrint("net", "getheaders (%d) %s to peer=%d\n", pindexBestHeader->nHeight, inv.hash.ToString(), pfrom->id);
4593                 }
4594             }
4595
4596             // Track requests for our stuff
4597             GetMainSignals().Inventory(inv.hash);
4598
4599             if (pfrom->nSendSize > (SendBufferSize() * 2)) {
4600                 Misbehaving(pfrom->GetId(), 50);
4601                 return error("send buffer size() = %u", pfrom->nSendSize);
4602             }
4603         }
4604
4605         if (!vToFetch.empty())
4606             pfrom->PushMessage("getdata", vToFetch);
4607     }
4608
4609
4610     else if (strCommand == "getdata")
4611     {
4612         vector<CInv> vInv;
4613         vRecv >> vInv;
4614         if (vInv.size() > MAX_INV_SZ)
4615         {
4616             Misbehaving(pfrom->GetId(), 20);
4617             return error("message getdata size() = %u", vInv.size());
4618         }
4619
4620         if (fDebug || (vInv.size() != 1))
4621             LogPrint("net", "received getdata (%u invsz) peer=%d\n", vInv.size(), pfrom->id);
4622
4623         if ((fDebug && vInv.size() > 0) || (vInv.size() == 1))
4624             LogPrint("net", "received getdata for: %s peer=%d\n", vInv[0].ToString(), pfrom->id);
4625
4626         pfrom->vRecvGetData.insert(pfrom->vRecvGetData.end(), vInv.begin(), vInv.end());
4627         ProcessGetData(pfrom);
4628     }
4629
4630
4631     else if (strCommand == "getblocks")
4632     {
4633         CBlockLocator locator;
4634         uint256 hashStop;
4635         vRecv >> locator >> hashStop;
4636
4637         LOCK(cs_main);
4638
4639         // Find the last block the caller has in the main chain
4640         CBlockIndex* pindex = FindForkInGlobalIndex(chainActive, locator);
4641
4642         // Send the rest of the chain
4643         if (pindex)
4644             pindex = chainActive.Next(pindex);
4645         int nLimit = 500;
4646         LogPrint("net", "getblocks %d to %s limit %d from peer=%d\n", (pindex ? pindex->nHeight : -1), hashStop.IsNull() ? "end" : hashStop.ToString(), nLimit, pfrom->id);
4647         for (; pindex; pindex = chainActive.Next(pindex))
4648         {
4649             if (pindex->GetBlockHash() == hashStop)
4650             {
4651                 LogPrint("net", "  getblocks stopping at %d %s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
4652                 break;
4653             }
4654             pfrom->PushInventory(CInv(MSG_BLOCK, pindex->GetBlockHash()));
4655             if (--nLimit <= 0)
4656             {
4657                 // When this block is requested, we'll send an inv that'll
4658                 // trigger the peer to getblocks the next batch of inventory.
4659                 LogPrint("net", "  getblocks stopping at limit %d %s\n", pindex->nHeight, pindex->GetBlockHash().ToString());
4660                 pfrom->hashContinue = pindex->GetBlockHash();
4661                 break;
4662             }
4663         }
4664     }
4665
4666
4667     else if (strCommand == "getheaders")
4668     {
4669         CBlockLocator locator;
4670         uint256 hashStop;
4671         vRecv >> locator >> hashStop;
4672
4673         LOCK(cs_main);
4674
4675         if (IsInitialBlockDownload())
4676             return true;
4677
4678         CBlockIndex* pindex = NULL;
4679         if (locator.IsNull())
4680         {
4681             // If locator is null, return the hashStop block
4682             BlockMap::iterator mi = mapBlockIndex.find(hashStop);
4683             if (mi == mapBlockIndex.end())
4684                 return true;
4685             pindex = (*mi).second;
4686         }
4687         else
4688         {
4689             // Find the last block the caller has in the main chain
4690             pindex = FindForkInGlobalIndex(chainActive, locator);
4691             if (pindex)
4692                 pindex = chainActive.Next(pindex);
4693         }
4694
4695         // we must use CBlocks, as CBlockHeaders won't include the 0x00 nTx count at the end
4696         vector<CBlock> vHeaders;
4697         int nLimit = MAX_HEADERS_RESULTS;
4698         LogPrint("net", "getheaders %d to %s from peer=%d\n", (pindex ? pindex->nHeight : -1), hashStop.ToString(), pfrom->id);
4699         for (; pindex; pindex = chainActive.Next(pindex))
4700         {
4701             vHeaders.push_back(pindex->GetBlockHeader());
4702             if (--nLimit <= 0 || pindex->GetBlockHash() == hashStop)
4703                 break;
4704         }
4705         pfrom->PushMessage("headers", vHeaders);
4706     }
4707
4708
4709     else if (strCommand == "tx")
4710     {
4711         vector<uint256> vWorkQueue;
4712         vector<uint256> vEraseQueue;
4713         CTransaction tx;
4714         vRecv >> tx;
4715
4716         CInv inv(MSG_TX, tx.GetHash());
4717         pfrom->AddInventoryKnown(inv);
4718
4719         LOCK(cs_main);
4720
4721         bool fMissingInputs = false;
4722         CValidationState state;
4723
4724         pfrom->setAskFor.erase(inv.hash);
4725         mapAlreadyAskedFor.erase(inv);
4726
4727         if (!AlreadyHave(inv) && AcceptToMemoryPool(mempool, state, tx, true, &fMissingInputs))
4728         {
4729             mempool.check(pcoinsTip);
4730             RelayTransaction(tx);
4731             vWorkQueue.push_back(inv.hash);
4732
4733             LogPrint("mempool", "AcceptToMemoryPool: peer=%d %s: accepted %s (poolsz %u)\n",
4734                 pfrom->id, pfrom->cleanSubVer,
4735                 tx.GetHash().ToString(),
4736                 mempool.mapTx.size());
4737
4738             // Recursively process any orphan transactions that depended on this one
4739             set<NodeId> setMisbehaving;
4740             for (unsigned int i = 0; i < vWorkQueue.size(); i++)
4741             {
4742                 map<uint256, set<uint256> >::iterator itByPrev = mapOrphanTransactionsByPrev.find(vWorkQueue[i]);
4743                 if (itByPrev == mapOrphanTransactionsByPrev.end())
4744                     continue;
4745                 for (set<uint256>::iterator mi = itByPrev->second.begin();
4746                      mi != itByPrev->second.end();
4747                      ++mi)
4748                 {
4749                     const uint256& orphanHash = *mi;
4750                     const CTransaction& orphanTx = mapOrphanTransactions[orphanHash].tx;
4751                     NodeId fromPeer = mapOrphanTransactions[orphanHash].fromPeer;
4752                     bool fMissingInputs2 = false;
4753                     // Use a dummy CValidationState so someone can't setup nodes to counter-DoS based on orphan
4754                     // resolution (that is, feeding people an invalid transaction based on LegitTxX in order to get
4755                     // anyone relaying LegitTxX banned)
4756                     CValidationState stateDummy;
4757
4758
4759                     if (setMisbehaving.count(fromPeer))
4760                         continue;
4761                     if (AcceptToMemoryPool(mempool, stateDummy, orphanTx, true, &fMissingInputs2))
4762                     {
4763                         LogPrint("mempool", "   accepted orphan tx %s\n", orphanHash.ToString());
4764                         RelayTransaction(orphanTx);
4765                         vWorkQueue.push_back(orphanHash);
4766                         vEraseQueue.push_back(orphanHash);
4767                     }
4768                     else if (!fMissingInputs2)
4769                     {
4770                         int nDos = 0;
4771                         if (stateDummy.IsInvalid(nDos) && nDos > 0)
4772                         {
4773                             // Punish peer that gave us an invalid orphan tx
4774                             Misbehaving(fromPeer, nDos);
4775                             setMisbehaving.insert(fromPeer);
4776                             LogPrint("mempool", "   invalid orphan tx %s\n", orphanHash.ToString());
4777                         }
4778                         // Has inputs but not accepted to mempool
4779                         // Probably non-standard or insufficient fee/priority
4780                         LogPrint("mempool", "   removed orphan tx %s\n", orphanHash.ToString());
4781                         vEraseQueue.push_back(orphanHash);
4782                         assert(recentRejects);
4783                         recentRejects->insert(orphanHash);
4784                     }
4785                     mempool.check(pcoinsTip);
4786                 }
4787             }
4788
4789             BOOST_FOREACH(uint256 hash, vEraseQueue)
4790                 EraseOrphanTx(hash);
4791         }
4792         // TODO: currently, prohibit joinsplits from entering mapOrphans
4793         else if (fMissingInputs && tx.vjoinsplit.size() == 0)
4794         {
4795             AddOrphanTx(tx, pfrom->GetId());
4796
4797             // DoS prevention: do not allow mapOrphanTransactions to grow unbounded
4798             unsigned int nMaxOrphanTx = (unsigned int)std::max((int64_t)0, GetArg("-maxorphantx", DEFAULT_MAX_ORPHAN_TRANSACTIONS));
4799             unsigned int nEvicted = LimitOrphanTxSize(nMaxOrphanTx);
4800             if (nEvicted > 0)
4801                 LogPrint("mempool", "mapOrphan overflow, removed %u tx\n", nEvicted);
4802         } else {
4803             assert(recentRejects);
4804             recentRejects->insert(tx.GetHash());
4805
4806             if (pfrom->fWhitelisted) {
4807                 // Always relay transactions received from whitelisted peers, even
4808                 // if they were already in the mempool or rejected from it due
4809                 // to policy, allowing the node to function as a gateway for
4810                 // nodes hidden behind it.
4811                 //
4812                 // Never relay transactions that we would assign a non-zero DoS
4813                 // score for, as we expect peers to do the same with us in that
4814                 // case.
4815                 int nDoS = 0;
4816                 if (!state.IsInvalid(nDoS) || nDoS == 0) {
4817                     LogPrintf("Force relaying tx %s from whitelisted peer=%d\n", tx.GetHash().ToString(), pfrom->id);
4818                     RelayTransaction(tx);
4819                 } else {
4820                     LogPrintf("Not relaying invalid transaction %s from whitelisted peer=%d (%s (code %d))\n",
4821                         tx.GetHash().ToString(), pfrom->id, state.GetRejectReason(), state.GetRejectCode());
4822                 }
4823             }
4824         }
4825         int nDoS = 0;
4826         if (state.IsInvalid(nDoS))
4827         {
4828             LogPrint("mempool", "%s from peer=%d %s was not accepted into the memory pool: %s\n", tx.GetHash().ToString(),
4829                 pfrom->id, pfrom->cleanSubVer,
4830                 state.GetRejectReason());
4831             pfrom->PushMessage("reject", strCommand, state.GetRejectCode(),
4832                                state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), inv.hash);
4833             if (nDoS > 0)
4834                 Misbehaving(pfrom->GetId(), nDoS);
4835         }
4836     }
4837
4838
4839     else if (strCommand == "headers" && !fImporting && !fReindex) // Ignore headers received while importing
4840     {
4841         std::vector<CBlockHeader> headers;
4842
4843         // Bypass the normal CBlock deserialization, as we don't want to risk deserializing 2000 full blocks.
4844         unsigned int nCount = ReadCompactSize(vRecv);
4845         if (nCount > MAX_HEADERS_RESULTS) {
4846             Misbehaving(pfrom->GetId(), 20);
4847             return error("headers message size = %u", nCount);
4848         }
4849         headers.resize(nCount);
4850         for (unsigned int n = 0; n < nCount; n++) {
4851             vRecv >> headers[n];
4852             ReadCompactSize(vRecv); // ignore tx count; assume it is 0.
4853         }
4854
4855         LOCK(cs_main);
4856
4857         if (nCount == 0) {
4858             // Nothing interesting. Stop asking this peers for more headers.
4859             return true;
4860         }
4861
4862         CBlockIndex *pindexLast = NULL;
4863         BOOST_FOREACH(const CBlockHeader& header, headers) {
4864             CValidationState state;
4865             if (pindexLast != NULL && header.hashPrevBlock != pindexLast->GetBlockHash()) {
4866                 Misbehaving(pfrom->GetId(), 20);
4867                 return error("non-continuous headers sequence");
4868             }
4869             if (!AcceptBlockHeader(header, state, &pindexLast)) {
4870                 int nDoS;
4871                 if (state.IsInvalid(nDoS)) {
4872                     if (nDoS > 0)
4873                         Misbehaving(pfrom->GetId(), nDoS);
4874                     return error("invalid header received");
4875                 }
4876             }
4877         }
4878
4879         if (pindexLast)
4880             UpdateBlockAvailability(pfrom->GetId(), pindexLast->GetBlockHash());
4881
4882         if (nCount == MAX_HEADERS_RESULTS && pindexLast) {
4883             // Headers message had its maximum size; the peer may have more headers.
4884             // TODO: optimize: if pindexLast is an ancestor of chainActive.Tip or pindexBestHeader, continue
4885             // from there instead.
4886             LogPrint("net", "more getheaders (%d) to end to peer=%d (startheight:%d)\n", pindexLast->nHeight, pfrom->id, pfrom->nStartingHeight);
4887             pfrom->PushMessage("getheaders", chainActive.GetLocator(pindexLast), uint256());
4888         }
4889
4890         CheckBlockIndex();
4891     }
4892
4893     else if (strCommand == "block" && !fImporting && !fReindex) // Ignore blocks received while importing
4894     {
4895         CBlock block;
4896         vRecv >> block;
4897
4898         CInv inv(MSG_BLOCK, block.GetHash());
4899         LogPrint("net", "received block %s peer=%d\n", inv.hash.ToString(), pfrom->id);
4900
4901         pfrom->AddInventoryKnown(inv);
4902
4903         CValidationState state;
4904         // Process all blocks from whitelisted peers, even if not requested,
4905         // unless we're still syncing with the network.
4906         // Such an unrequested block may still be processed, subject to the
4907         // conditions in AcceptBlock().
4908         bool forceProcessing = pfrom->fWhitelisted && !IsInitialBlockDownload();
4909         ProcessNewBlock(state, pfrom, &block, forceProcessing, NULL);
4910         int nDoS;
4911         if (state.IsInvalid(nDoS)) {
4912             pfrom->PushMessage("reject", strCommand, state.GetRejectCode(),
4913                                state.GetRejectReason().substr(0, MAX_REJECT_MESSAGE_LENGTH), inv.hash);
4914             if (nDoS > 0) {
4915                 LOCK(cs_main);
4916                 Misbehaving(pfrom->GetId(), nDoS);
4917             }
4918         }
4919
4920     }
4921
4922
4923     // This asymmetric behavior for inbound and outbound connections was introduced
4924     // to prevent a fingerprinting attack: an attacker can send specific fake addresses
4925     // to users' AddrMan and later request them by sending getaddr messages.
4926     // Making nodes which are behind NAT and can only make outgoing connections ignore
4927     // the getaddr message mitigates the attack.
4928     else if ((strCommand == "getaddr") && (pfrom->fInbound))
4929     {
4930         // Only send one GetAddr response per connection to reduce resource waste
4931         //  and discourage addr stamping of INV announcements.
4932         if (pfrom->fSentAddr) {
4933             LogPrint("net", "Ignoring repeated \"getaddr\". peer=%d\n", pfrom->id);
4934             return true;
4935         }
4936         pfrom->fSentAddr = true;
4937
4938         pfrom->vAddrToSend.clear();
4939         vector<CAddress> vAddr = addrman.GetAddr();
4940         BOOST_FOREACH(const CAddress &addr, vAddr)
4941             pfrom->PushAddress(addr);
4942     }
4943
4944
4945     else if (strCommand == "mempool")
4946     {
4947         LOCK2(cs_main, pfrom->cs_filter);
4948
4949         std::vector<uint256> vtxid;
4950         mempool.queryHashes(vtxid);
4951         vector<CInv> vInv;
4952         BOOST_FOREACH(uint256& hash, vtxid) {
4953             CInv inv(MSG_TX, hash);
4954             CTransaction tx;
4955             bool fInMemPool = mempool.lookup(hash, tx);
4956             if (!fInMemPool) continue; // another thread removed since queryHashes, maybe...
4957             if ((pfrom->pfilter && pfrom->pfilter->IsRelevantAndUpdate(tx)) ||
4958                (!pfrom->pfilter))
4959                 vInv.push_back(inv);
4960             if (vInv.size() == MAX_INV_SZ) {
4961                 pfrom->PushMessage("inv", vInv);
4962                 vInv.clear();
4963             }
4964         }
4965         if (vInv.size() > 0)
4966             pfrom->PushMessage("inv", vInv);
4967     }
4968
4969
4970     else if (strCommand == "ping")
4971     {
4972         if (pfrom->nVersion > BIP0031_VERSION)
4973         {
4974             uint64_t nonce = 0;
4975             vRecv >> nonce;
4976             // Echo the message back with the nonce. This allows for two useful features:
4977             //
4978             // 1) A remote node can quickly check if the connection is operational
4979             // 2) Remote nodes can measure the latency of the network thread. If this node
4980             //    is overloaded it won't respond to pings quickly and the remote node can
4981             //    avoid sending us more work, like chain download requests.
4982             //
4983             // The nonce stops the remote getting confused between different pings: without
4984             // it, if the remote node sends a ping once per second and this node takes 5
4985             // seconds to respond to each, the 5th ping the remote sends would appear to
4986             // return very quickly.
4987             pfrom->PushMessage("pong", nonce);
4988         }
4989     }
4990
4991
4992     else if (strCommand == "pong")
4993     {
4994         int64_t pingUsecEnd = nTimeReceived;
4995         uint64_t nonce = 0;
4996         size_t nAvail = vRecv.in_avail();
4997         bool bPingFinished = false;
4998         std::string sProblem;
4999
5000         if (nAvail >= sizeof(nonce)) {
5001             vRecv >> nonce;
5002
5003             // Only process pong message if there is an outstanding ping (old ping without nonce should never pong)
5004             if (pfrom->nPingNonceSent != 0) {
5005                 if (nonce == pfrom->nPingNonceSent) {
5006                     // Matching pong received, this ping is no longer outstanding
5007                     bPingFinished = true;
5008                     int64_t pingUsecTime = pingUsecEnd - pfrom->nPingUsecStart;
5009                     if (pingUsecTime > 0) {
5010                         // Successful ping time measurement, replace previous
5011                         pfrom->nPingUsecTime = pingUsecTime;
5012                         pfrom->nMinPingUsecTime = std::min(pfrom->nMinPingUsecTime, pingUsecTime);
5013                     } else {
5014                         // This should never happen
5015                         sProblem = "Timing mishap";
5016                     }
5017                 } else {
5018                     // Nonce mismatches are normal when pings are overlapping
5019                     sProblem = "Nonce mismatch";
5020                     if (nonce == 0) {
5021                         // This is most likely a bug in another implementation somewhere; cancel this ping
5022                         bPingFinished = true;
5023                         sProblem = "Nonce zero";
5024                     }
5025                 }
5026             } else {
5027                 sProblem = "Unsolicited pong without ping";
5028             }
5029         } else {
5030             // This is most likely a bug in another implementation somewhere; cancel this ping
5031             bPingFinished = true;
5032             sProblem = "Short payload";
5033         }
5034
5035         if (!(sProblem.empty())) {
5036             LogPrint("net", "pong peer=%d %s: %s, %x expected, %x received, %u bytes\n",
5037                 pfrom->id,
5038                 pfrom->cleanSubVer,
5039                 sProblem,
5040                 pfrom->nPingNonceSent,
5041                 nonce,
5042                 nAvail);
5043         }
5044         if (bPingFinished) {
5045             pfrom->nPingNonceSent = 0;
5046         }
5047     }
5048
5049
5050     else if (fAlerts && strCommand == "alert")
5051     {
5052         CAlert alert;
5053         vRecv >> alert;
5054
5055         uint256 alertHash = alert.GetHash();
5056         if (pfrom->setKnown.count(alertHash) == 0)
5057         {
5058             if (alert.ProcessAlert(Params().AlertKey()))
5059             {
5060                 // Relay
5061                 pfrom->setKnown.insert(alertHash);
5062                 {
5063                     LOCK(cs_vNodes);
5064                     BOOST_FOREACH(CNode* pnode, vNodes)
5065                         alert.RelayTo(pnode);
5066                 }
5067             }
5068             else {
5069                 // Small DoS penalty so peers that send us lots of
5070                 // duplicate/expired/invalid-signature/whatever alerts
5071                 // eventually get banned.
5072                 // This isn't a Misbehaving(100) (immediate ban) because the
5073                 // peer might be an older or different implementation with
5074                 // a different signature key, etc.
5075                 Misbehaving(pfrom->GetId(), 10);
5076             }
5077         }
5078     }
5079
5080
5081     else if (strCommand == "filterload")
5082     {
5083         CBloomFilter filter;
5084         vRecv >> filter;
5085
5086         if (!filter.IsWithinSizeConstraints())
5087             // There is no excuse for sending a too-large filter
5088             Misbehaving(pfrom->GetId(), 100);
5089         else
5090         {
5091             LOCK(pfrom->cs_filter);
5092             delete pfrom->pfilter;
5093             pfrom->pfilter = new CBloomFilter(filter);
5094             pfrom->pfilter->UpdateEmptyFull();
5095         }
5096         pfrom->fRelayTxes = true;
5097     }
5098
5099
5100     else if (strCommand == "filteradd")
5101     {
5102         vector<unsigned char> vData;
5103         vRecv >> vData;
5104
5105         // Nodes must NEVER send a data item > 520 bytes (the max size for a script data object,
5106         // and thus, the maximum size any matched object can have) in a filteradd message
5107         if (vData.size() > MAX_SCRIPT_ELEMENT_SIZE)
5108         {
5109             Misbehaving(pfrom->GetId(), 100);
5110         } else {
5111             LOCK(pfrom->cs_filter);
5112             if (pfrom->pfilter)
5113                 pfrom->pfilter->insert(vData);
5114             else
5115                 Misbehaving(pfrom->GetId(), 100);
5116         }
5117     }
5118
5119
5120     else if (strCommand == "filterclear")
5121     {
5122         LOCK(pfrom->cs_filter);
5123         delete pfrom->pfilter;
5124         pfrom->pfilter = new CBloomFilter();
5125         pfrom->fRelayTxes = true;
5126     }
5127
5128
5129     else if (strCommand == "reject")
5130     {
5131         if (fDebug) {
5132             try {
5133                 string strMsg; unsigned char ccode; string strReason;
5134                 vRecv >> LIMITED_STRING(strMsg, CMessageHeader::COMMAND_SIZE) >> ccode >> LIMITED_STRING(strReason, MAX_REJECT_MESSAGE_LENGTH);
5135
5136                 ostringstream ss;
5137                 ss << strMsg << " code " << itostr(ccode) << ": " << strReason;
5138
5139                 if (strMsg == "block" || strMsg == "tx")
5140                 {
5141                     uint256 hash;
5142                     vRecv >> hash;
5143                     ss << ": hash " << hash.ToString();
5144                 }
5145                 LogPrint("net", "Reject %s\n", SanitizeString(ss.str()));
5146             } catch (const std::ios_base::failure&) {
5147                 // Avoid feedback loops by preventing reject messages from triggering a new reject message.
5148                 LogPrint("net", "Unparseable reject message received\n");
5149             }
5150         }
5151     }
5152
5153     else if (strCommand == "notfound") {
5154         // We do not care about the NOTFOUND message, but logging an Unknown Command
5155         // message would be undesirable as we transmit it ourselves.
5156     }
5157
5158     else {
5159         // Ignore unknown commands for extensibility
5160         LogPrint("net", "Unknown command \"%s\" from peer=%d\n", SanitizeString(strCommand), pfrom->id);
5161     }
5162
5163
5164
5165     return true;
5166 }
5167
5168 // requires LOCK(cs_vRecvMsg)
5169 bool ProcessMessages(CNode* pfrom)
5170 {
5171     //if (fDebug)
5172     //    LogPrintf("%s(%u messages)\n", __func__, pfrom->vRecvMsg.size());
5173
5174     //
5175     // Message format
5176     //  (4) message start
5177     //  (12) command
5178     //  (4) size
5179     //  (4) checksum
5180     //  (x) data
5181     //
5182     bool fOk = true;
5183
5184     if (!pfrom->vRecvGetData.empty())
5185         ProcessGetData(pfrom);
5186
5187     // this maintains the order of responses
5188     if (!pfrom->vRecvGetData.empty()) return fOk;
5189
5190     std::deque<CNetMessage>::iterator it = pfrom->vRecvMsg.begin();
5191     while (!pfrom->fDisconnect && it != pfrom->vRecvMsg.end()) {
5192         // Don't bother if send buffer is too full to respond anyway
5193         if (pfrom->nSendSize >= SendBufferSize())
5194             break;
5195
5196         // get next message
5197         CNetMessage& msg = *it;
5198
5199         //if (fDebug)
5200         //    LogPrintf("%s(message %u msgsz, %u bytes, complete:%s)\n", __func__,
5201         //            msg.hdr.nMessageSize, msg.vRecv.size(),
5202         //            msg.complete() ? "Y" : "N");
5203
5204         // end, if an incomplete message is found
5205         if (!msg.complete())
5206             break;
5207
5208         // at this point, any failure means we can delete the current message
5209         it++;
5210
5211         // Scan for message start
5212         if (memcmp(msg.hdr.pchMessageStart, Params().MessageStart(), MESSAGE_START_SIZE) != 0) {
5213             LogPrintf("PROCESSMESSAGE: INVALID MESSAGESTART %s peer=%d\n", SanitizeString(msg.hdr.GetCommand()), pfrom->id);
5214             fOk = false;
5215             break;
5216         }
5217
5218         // Read header
5219         CMessageHeader& hdr = msg.hdr;
5220         if (!hdr.IsValid(Params().MessageStart()))
5221         {
5222             LogPrintf("PROCESSMESSAGE: ERRORS IN HEADER %s peer=%d\n", SanitizeString(hdr.GetCommand()), pfrom->id);
5223             continue;
5224         }
5225         string strCommand = hdr.GetCommand();
5226
5227         // Message size
5228         unsigned int nMessageSize = hdr.nMessageSize;
5229
5230         // Checksum
5231         CDataStream& vRecv = msg.vRecv;
5232         uint256 hash = Hash(vRecv.begin(), vRecv.begin() + nMessageSize);
5233         unsigned int nChecksum = ReadLE32((unsigned char*)&hash);
5234         if (nChecksum != hdr.nChecksum)
5235         {
5236             LogPrintf("%s(%s, %u bytes): CHECKSUM ERROR nChecksum=%08x hdr.nChecksum=%08x\n", __func__,
5237                SanitizeString(strCommand), nMessageSize, nChecksum, hdr.nChecksum);
5238             continue;
5239         }
5240
5241         // Process message
5242         bool fRet = false;
5243         try
5244         {
5245             fRet = ProcessMessage(pfrom, strCommand, vRecv, msg.nTime);
5246             boost::this_thread::interruption_point();
5247         }
5248         catch (const std::ios_base::failure& e)
5249         {
5250             pfrom->PushMessage("reject", strCommand, REJECT_MALFORMED, string("error parsing message"));
5251             if (strstr(e.what(), "end of data"))
5252             {
5253                 // Allow exceptions from under-length message on vRecv
5254                 LogPrintf("%s(%s, %u bytes): Exception '%s' caught, normally caused by a message being shorter than its stated length\n", __func__, SanitizeString(strCommand), nMessageSize, e.what());
5255             }
5256             else if (strstr(e.what(), "size too large"))
5257             {
5258                 // Allow exceptions from over-long size
5259                 LogPrintf("%s(%s, %u bytes): Exception '%s' caught\n", __func__, SanitizeString(strCommand), nMessageSize, e.what());
5260             }
5261             else
5262             {
5263                 PrintExceptionContinue(&e, "ProcessMessages()");
5264             }
5265         }
5266         catch (const boost::thread_interrupted&) {
5267             throw;
5268         }
5269         catch (const std::exception& e) {
5270             PrintExceptionContinue(&e, "ProcessMessages()");
5271         } catch (...) {
5272             PrintExceptionContinue(NULL, "ProcessMessages()");
5273         }
5274
5275         if (!fRet)
5276             LogPrintf("%s(%s, %u bytes) FAILED peer=%d\n", __func__, SanitizeString(strCommand), nMessageSize, pfrom->id);
5277
5278         break;
5279     }
5280
5281     // In case the connection got shut down, its receive buffer was wiped
5282     if (!pfrom->fDisconnect)
5283         pfrom->vRecvMsg.erase(pfrom->vRecvMsg.begin(), it);
5284
5285     return fOk;
5286 }
5287
5288
5289 bool SendMessages(CNode* pto, bool fSendTrickle)
5290 {
5291     const Consensus::Params& consensusParams = Params().GetConsensus();
5292     {
5293         // Don't send anything until we get its version message
5294         if (pto->nVersion == 0)
5295             return true;
5296
5297         //
5298         // Message: ping
5299         //
5300         bool pingSend = false;
5301         if (pto->fPingQueued) {
5302             // RPC ping request by user
5303             pingSend = true;
5304         }
5305         if (pto->nPingNonceSent == 0 && pto->nPingUsecStart + PING_INTERVAL * 1000000 < GetTimeMicros()) {
5306             // Ping automatically sent as a latency probe & keepalive.
5307             pingSend = true;
5308         }
5309         if (pingSend) {
5310             uint64_t nonce = 0;
5311             while (nonce == 0) {
5312                 GetRandBytes((unsigned char*)&nonce, sizeof(nonce));
5313             }
5314             pto->fPingQueued = false;
5315             pto->nPingUsecStart = GetTimeMicros();
5316             if (pto->nVersion > BIP0031_VERSION) {
5317                 pto->nPingNonceSent = nonce;
5318                 pto->PushMessage("ping", nonce);
5319             } else {
5320                 // Peer is too old to support ping command with nonce, pong will never arrive.
5321                 pto->nPingNonceSent = 0;
5322                 pto->PushMessage("ping");
5323             }
5324         }
5325
5326         TRY_LOCK(cs_main, lockMain); // Acquire cs_main for IsInitialBlockDownload() and CNodeState()
5327         if (!lockMain)
5328             return true;
5329
5330         // Address refresh broadcast
5331         static int64_t nLastRebroadcast;
5332         if (!IsInitialBlockDownload() && (GetTime() - nLastRebroadcast > 24 * 60 * 60))
5333         {
5334             LOCK(cs_vNodes);
5335             BOOST_FOREACH(CNode* pnode, vNodes)
5336             {
5337                 // Periodically clear addrKnown to allow refresh broadcasts
5338                 if (nLastRebroadcast)
5339                     pnode->addrKnown.reset();
5340
5341                 // Rebroadcast our address
5342                 AdvertizeLocal(pnode);
5343             }
5344             if (!vNodes.empty())
5345                 nLastRebroadcast = GetTime();
5346         }
5347
5348         //
5349         // Message: addr
5350         //
5351         if (fSendTrickle)
5352         {
5353             vector<CAddress> vAddr;
5354             vAddr.reserve(pto->vAddrToSend.size());
5355             BOOST_FOREACH(const CAddress& addr, pto->vAddrToSend)
5356             {
5357                 if (!pto->addrKnown.contains(addr.GetKey()))
5358                 {
5359                     pto->addrKnown.insert(addr.GetKey());
5360                     vAddr.push_back(addr);
5361                     // receiver rejects addr messages larger than 1000
5362                     if (vAddr.size() >= 1000)
5363                     {
5364                         pto->PushMessage("addr", vAddr);
5365                         vAddr.clear();
5366                     }
5367                 }
5368             }
5369             pto->vAddrToSend.clear();
5370             if (!vAddr.empty())
5371                 pto->PushMessage("addr", vAddr);
5372         }
5373
5374         CNodeState &state = *State(pto->GetId());
5375         if (state.fShouldBan) {
5376             if (pto->fWhitelisted)
5377                 LogPrintf("Warning: not punishing whitelisted peer %s!\n", pto->addr.ToString());
5378             else {
5379                 pto->fDisconnect = true;
5380                 if (pto->addr.IsLocal())
5381                     LogPrintf("Warning: not banning local peer %s!\n", pto->addr.ToString());
5382                 else
5383                 {
5384                     CNode::Ban(pto->addr);
5385                 }
5386             }
5387             state.fShouldBan = false;
5388         }
5389
5390         BOOST_FOREACH(const CBlockReject& reject, state.rejects)
5391             pto->PushMessage("reject", (string)"block", reject.chRejectCode, reject.strRejectReason, reject.hashBlock);
5392         state.rejects.clear();
5393
5394         // Start block sync
5395         if (pindexBestHeader == NULL)
5396             pindexBestHeader = chainActive.Tip();
5397         bool fFetch = state.fPreferredDownload || (nPreferredDownload == 0 && !pto->fClient && !pto->fOneShot); // Download if this is a nice peer, or we have no nice peers and this one might do.
5398         if (!state.fSyncStarted && !pto->fClient && !fImporting && !fReindex) {
5399             // Only actively request headers from a single peer, unless we're close to today.
5400             if ((nSyncStarted == 0 && fFetch) || pindexBestHeader->GetBlockTime() > GetAdjustedTime() - 24 * 60 * 60) {
5401                 state.fSyncStarted = true;
5402                 nSyncStarted++;
5403                 CBlockIndex *pindexStart = pindexBestHeader->pprev ? pindexBestHeader->pprev : pindexBestHeader;
5404                 LogPrint("net", "initial getheaders (%d) to peer=%d (startheight:%d)\n", pindexStart->nHeight, pto->id, pto->nStartingHeight);
5405                 pto->PushMessage("getheaders", chainActive.GetLocator(pindexStart), uint256());
5406             }
5407         }
5408
5409         // Resend wallet transactions that haven't gotten in a block yet
5410         // Except during reindex, importing and IBD, when old wallet
5411         // transactions become unconfirmed and spams other nodes.
5412         if (!fReindex && !fImporting && !IsInitialBlockDownload())
5413         {
5414             GetMainSignals().Broadcast(nTimeBestReceived);
5415         }
5416
5417         //
5418         // Message: inventory
5419         //
5420         vector<CInv> vInv;
5421         vector<CInv> vInvWait;
5422         {
5423             LOCK(pto->cs_inventory);
5424             vInv.reserve(pto->vInventoryToSend.size());
5425             vInvWait.reserve(pto->vInventoryToSend.size());
5426             BOOST_FOREACH(const CInv& inv, pto->vInventoryToSend)
5427             {
5428                 if (pto->setInventoryKnown.count(inv))
5429                     continue;
5430
5431                 // trickle out tx inv to protect privacy
5432                 if (inv.type == MSG_TX && !fSendTrickle)
5433                 {
5434                     // 1/4 of tx invs blast to all immediately
5435                     static uint256 hashSalt;
5436                     if (hashSalt.IsNull())
5437                         hashSalt = GetRandHash();
5438                     uint256 hashRand = ArithToUint256(UintToArith256(inv.hash) ^ UintToArith256(hashSalt));
5439                     hashRand = Hash(BEGIN(hashRand), END(hashRand));
5440                     bool fTrickleWait = ((UintToArith256(hashRand) & 3) != 0);
5441
5442                     if (fTrickleWait)
5443                     {
5444                         vInvWait.push_back(inv);
5445                         continue;
5446                     }
5447                 }
5448
5449                 // returns true if wasn't already contained in the set
5450                 if (pto->setInventoryKnown.insert(inv).second)
5451                 {
5452                     vInv.push_back(inv);
5453                     if (vInv.size() >= 1000)
5454                     {
5455                         pto->PushMessage("inv", vInv);
5456                         vInv.clear();
5457                     }
5458                 }
5459             }
5460             pto->vInventoryToSend = vInvWait;
5461         }
5462         if (!vInv.empty())
5463             pto->PushMessage("inv", vInv);
5464
5465         // Detect whether we're stalling
5466         int64_t nNow = GetTimeMicros();
5467         if (!pto->fDisconnect && state.nStallingSince && state.nStallingSince < nNow - 1000000 * BLOCK_STALLING_TIMEOUT) {
5468             // Stalling only triggers when the block download window cannot move. During normal steady state,
5469             // the download window should be much larger than the to-be-downloaded set of blocks, so disconnection
5470             // should only happen during initial block download.
5471             LogPrintf("Peer=%d is stalling block download, disconnecting\n", pto->id);
5472             pto->fDisconnect = true;
5473         }
5474         // In case there is a block that has been in flight from this peer for (2 + 0.5 * N) times the block interval
5475         // (with N the number of validated blocks that were in flight at the time it was requested), disconnect due to
5476         // timeout. We compensate for in-flight blocks to prevent killing off peers due to our own downstream link
5477         // being saturated. We only count validated in-flight blocks so peers can't advertise non-existing block hashes
5478         // to unreasonably increase our timeout.
5479         // We also compare the block download timeout originally calculated against the time at which we'd disconnect
5480         // if we assumed the block were being requested now (ignoring blocks we've requested from this peer, since we're
5481         // only looking at this peer's oldest request).  This way a large queue in the past doesn't result in a
5482         // permanently large window for this block to be delivered (ie if the number of blocks in flight is decreasing
5483         // more quickly than once every 5 minutes, then we'll shorten the download window for this block).
5484         if (!pto->fDisconnect && state.vBlocksInFlight.size() > 0) {
5485             QueuedBlock &queuedBlock = state.vBlocksInFlight.front();
5486             int64_t nTimeoutIfRequestedNow = GetBlockTimeout(nNow, nQueuedValidatedHeaders - state.nBlocksInFlightValidHeaders, consensusParams);
5487             if (queuedBlock.nTimeDisconnect > nTimeoutIfRequestedNow) {
5488                 LogPrint("net", "Reducing block download timeout for peer=%d block=%s, orig=%d new=%d\n", pto->id, queuedBlock.hash.ToString(), queuedBlock.nTimeDisconnect, nTimeoutIfRequestedNow);
5489                 queuedBlock.nTimeDisconnect = nTimeoutIfRequestedNow;
5490             }
5491             if (queuedBlock.nTimeDisconnect < nNow) {
5492                 LogPrintf("Timeout downloading block %s from peer=%d, disconnecting\n", queuedBlock.hash.ToString(), pto->id);
5493                 pto->fDisconnect = true;
5494             }
5495         }
5496
5497         //
5498         // Message: getdata (blocks)
5499         //
5500         vector<CInv> vGetData;
5501         if (!pto->fDisconnect && !pto->fClient && (fFetch || !IsInitialBlockDownload()) && state.nBlocksInFlight < MAX_BLOCKS_IN_TRANSIT_PER_PEER) {
5502             vector<CBlockIndex*> vToDownload;
5503             NodeId staller = -1;
5504             FindNextBlocksToDownload(pto->GetId(), MAX_BLOCKS_IN_TRANSIT_PER_PEER - state.nBlocksInFlight, vToDownload, staller);
5505             BOOST_FOREACH(CBlockIndex *pindex, vToDownload) {
5506                 vGetData.push_back(CInv(MSG_BLOCK, pindex->GetBlockHash()));
5507                 MarkBlockAsInFlight(pto->GetId(), pindex->GetBlockHash(), consensusParams, pindex);
5508                 LogPrint("net", "Requesting block %s (%d) peer=%d\n", pindex->GetBlockHash().ToString(),
5509                     pindex->nHeight, pto->id);
5510             }
5511             if (state.nBlocksInFlight == 0 && staller != -1) {
5512                 if (State(staller)->nStallingSince == 0) {
5513                     State(staller)->nStallingSince = nNow;
5514                     LogPrint("net", "Stall started peer=%d\n", staller);
5515                 }
5516             }
5517         }
5518
5519         //
5520         // Message: getdata (non-blocks)
5521         //
5522         while (!pto->fDisconnect && !pto->mapAskFor.empty() && (*pto->mapAskFor.begin()).first <= nNow)
5523         {
5524             const CInv& inv = (*pto->mapAskFor.begin()).second;
5525             if (!AlreadyHave(inv))
5526             {
5527                 if (fDebug)
5528                     LogPrint("net", "Requesting %s peer=%d\n", inv.ToString(), pto->id);
5529                 vGetData.push_back(inv);
5530                 if (vGetData.size() >= 1000)
5531                 {
5532                     pto->PushMessage("getdata", vGetData);
5533                     vGetData.clear();
5534                 }
5535             } else {
5536                 //If we're not going to ask, don't expect a response.
5537                 pto->setAskFor.erase(inv.hash);
5538             }
5539             pto->mapAskFor.erase(pto->mapAskFor.begin());
5540         }
5541         if (!vGetData.empty())
5542             pto->PushMessage("getdata", vGetData);
5543
5544     }
5545     return true;
5546 }
5547
5548  std::string CBlockFileInfo::ToString() const {
5549      return strprintf("CBlockFileInfo(blocks=%u, size=%u, heights=%u...%u, time=%s...%s)", nBlocks, nSize, nHeightFirst, nHeightLast, DateTimeStrFormat("%Y-%m-%d", nTimeFirst), DateTimeStrFormat("%Y-%m-%d", nTimeLast));
5550  }
5551
5552
5553
5554 class CMainCleanup
5555 {
5556 public:
5557     CMainCleanup() {}
5558     ~CMainCleanup() {
5559         // block headers
5560         BlockMap::iterator it1 = mapBlockIndex.begin();
5561         for (; it1 != mapBlockIndex.end(); it1++)
5562             delete (*it1).second;
5563         mapBlockIndex.clear();
5564
5565         // orphan transactions
5566         mapOrphanTransactions.clear();
5567         mapOrphanTransactionsByPrev.clear();
5568     }
5569 } instance_of_cmaincleanup;
This page took 0.340822 seconds and 2 git commands to generate.